У Nvidia вышла локальная нейросеть Chat with RTX
Система умеет получать информацию из видео с YouTube по URL-адресу и текстовое содержание. Здесь также есть поддержка обработки PDF-файлов и поиска по расшифровке видео, пишет The Verge.
Однако нейросеть имеет и ряд недостатков, один из которых - это невозможность запоминать контекст. В связи с этим чат-бот не сможет ссылаться на данные из предыдущего запроса.
Для того, чтобы установить Chat with RTX, необходим веб-сервер и экземпляр Python, использующий модели Llama 2 или Mistral. Также приложению требуется порядка 40 Гб.
Согласно данным издания, программа сейчас похожа на бета-версию, поскольку в ней замечено большое количество багов и ограничений.
Ранее сообщалось, что Microsoft планирует добавить в Windows нейросеть, которая улучшает качество картинки.