Языковая модель GPT-4 Turbo будет предлагаться в двух версиях: одна предназначена исключительно для анализа текста, вторая понимает контекст не только текста, но и изображений. Модель анализа текста доступна в виде предварительной версии через API, начиная с сегодняшнего дня. Обе версии нейросети компания пообещала сделать общедоступными "в ближайшие недели".
Существенно снижены цены, так стоимость использования GPT-4 Turbo составляет 0,01 доллара за 1000 входных токенов (около 750 слов) и 0,03 доллара за 1000 выходных токенов. Под входными токенами понимаются фрагменты необработанного текста. Выходные токены, в свою очередь, это результат генерации на основе входных токенов. Цена на GPT-4 Turbo для обработки изображений будет зависеть от размера изображения. Например, обработка изображения размером 1080 × 1080 пикселей в GPT-4 Turbo будет стоить 0,00765 доллара. Как говорят в Open AI, это удалось за счет оптимизации производительности системы.
Обновлена и база знаний. Для GPT-4 Turbo предел знаний - апрель 2023 года. Для сравнения - языковая модель GPT-4 обучалась на данных до сентября 2021 года. Таким образом, на запросы, имеющие отношение к последним событиям, нейросеть будет давать более точные ответы.
GPT-4 Turbo получила расширенное контекстное окно (количество текста, учитываемое в процессе генерации). Увеличение контекстного окна позволяет модели лучше понимать смысл запросов и выдавать более подходящие им ответы, не отклоняясь от темы. Модель GPT-4 Turbo имеет контекстное окно в 128 тыс. токенов, что в четыре раза больше, чем у GPT-4. Это самое большое контекстное окно среди всех коммерчески доступных моделей ИИ, утверждают в Open AI.
В качестве примера - контекстное окно в 128 тыс. токенов соответствует примерно 100 тыс. словам или 300 страницам текста, что равносильно размеру романов "Путешествия Гулливера" Джонатана Свифта или "Гарри Поттер и узник Азкабана" Джоан Роулинг.
Модель GPT-4 Turbo способна генерировать действительный JSON-формат. Это упростит взаимодействие с веб-приложениями. Также GPT-4 Turbo может быть интегрирован с DALL-E 3, функциями перевода текста в речь и зрительным восприятием, расширяя возможности использования ИИ.
Новшества выглядят круто, - говорит Евгений Бурнаев, директор Центра прикладного ИИ Сколтеха.
"Из принципиально важного - доступ к информации и событиям вплоть до апреля 2023 года, обработка объемных текстов до 300 страниц, а также возможности по использованию голосового диалога и DALL-E. Для разработчиков это еще и снижение цен на API в 2-3 раза, и планируемый магазин обученных чат-ботов, где их можно будет монетизировать, и поиск по PDF", - полагает эксперт.
По его словам, обращает на себя внимание и заявление о том, что OpenAI готова поддержать пользователей в случае судебных претензий правообладателей. Риски нарушения авторских прав такими системами сегодня являются одними из самых значимых для заказчиков, использующих нейросети в своей работе.
Не менее значимым является и увеличение длины контекста - до 128 тысяч токенов, отмечает Иван Оселедец, СЕО Института AIRI, профессор Сколтеха. Еще один важный анонс касается планов по открытию "магазина" решений на основе кастoмизированных под работу с конкретными задачами версий GPT.
"Он будет называться GPT Store и включит в себя созданные благодаря промпт-инжинирингу конфигурации моделей OpenAi. Компания утверждает, что в будущем будет направлять какую-то часть прибыли создателям самых популярных "GPTs", но на данный момент детальной информации о принципах взаимодействия юзеров и магазина пока нет. Вероятно, его появление связано с желанием объединить под своим брендом пользовательские решения и лучше контролировать их распространение", - говорит Оселедец.
Он отмечает, что анонсированные обновления в первую очередь касаются бизнеса, оформления продуктовой линейки и путей взаимодействия с пользователями. На технологическую картину мира больших языковых моделей все это не повлияет. Однако, "прогресс в работе с LLM огромен: существует множество как проприетарных, так и открытых решений, которые уже приближаются к GPT по качеству выдаваемых результатов. OpenAI вынуждена держать марку", - подытоживает Оселедец.
Не вполне согласен с этим Евгений Бурнаев. По его словам, происходящее сейчас с нейросетями напоминает появление интернета.
"В тот момент он воспринимался как доступная онлайн-библиотека, и никто не ожидал, что его появление станет переломным для всего бизнеса и приведёт к появлению таких ИТ-гигантов, как Amazon и Google, а в последующие десятилетия эволюция технологий и цифровых платформ даст толчок новым бизнесам и капиталам. Сегодняшние темпы развития технологий и реакция на них рынка гораздо динамичнее, чем это было 30 лет назад, поэтому аналогично тому, как интернет изменил ИТ-отрасль, выход ChatGPT-4 Turbo может существенно изменить баланс между ведущими компаниями в сфере информационных технологий", - уверен эксперт.