OpenAI представила флагманскую нейросеть GPT-4 Turbo - мощнее и в разы дешевле GPT-4

На своей первой конференции для разработчиков компания OpenAI представила GPT-4 Turbo - улучшенную версию своей флагманской большой языковой модели. Разработчики заявляют, что новая GPT-4 Turbo стала мощнее и в то же время дешевле, чем GPT-4. Кроме того, озвучены планы по открытию "магазина" решений под работу с конкретными задачами версий GPT. Эксперты полагают, что это позволит существенно расширить продуктовую и коммерческую составляющую использования нейросети.

Языковая модель GPT-4 Turbo будет предлагаться в двух версиях: одна предназначена исключительно для анализа текста, вторая понимает контекст не только текста, но и изображений. Модель анализа текста доступна в виде предварительной версии через API, начиная с сегодняшнего дня. Обе версии нейросети компания пообещала сделать общедоступными "в ближайшие недели".

Существенно снижены цены, так стоимость использования GPT-4 Turbo составляет 0,01 доллара за 1000 входных токенов (около 750 слов) и 0,03 доллара за 1000 выходных токенов. Под входными токенами понимаются фрагменты необработанного текста. Выходные токены, в свою очередь, это результат генерации на основе входных токенов. Цена на GPT-4 Turbo для обработки изображений будет зависеть от размера изображения. Например, обработка изображения размером 1080 × 1080 пикселей в GPT-4 Turbo будет стоить 0,00765 доллара. Как говорят в Open AI, это удалось за счет оптимизации производительности системы.

Обновлена и база знаний. Для GPT-4 Turbo предел знаний - апрель 2023 года. Для сравнения - языковая модель GPT-4 обучалась на данных до сентября 2021 года. Таким образом, на запросы, имеющие отношение к последним событиям, нейросеть будет давать более точные ответы.

GPT-4 Turbo получила расширенное контекстное окно (количество текста, учитываемое в процессе генерации). Увеличение контекстного окна позволяет модели лучше понимать смысл запросов и выдавать более подходящие им ответы, не отклоняясь от темы. Модель GPT-4 Turbo имеет контекстное окно в 128 тыс. токенов, что в четыре раза больше, чем у GPT-4. Это самое большое контекстное окно среди всех коммерчески доступных моделей ИИ, утверждают в Open AI.

В качестве примера - контекстное окно в 128 тыс. токенов соответствует примерно 100 тыс. словам или 300 страницам текста, что равносильно размеру романов "Путешествия Гулливера" Джонатана Свифта или "Гарри Поттер и узник Азкабана" Джоан Роулинг.

Модель GPT-4 Turbo способна генерировать действительный JSON-формат. Это упростит взаимодействие с веб-приложениями. Также GPT-4 Turbo может быть интегрирован с DALL-E 3, функциями перевода текста в речь и зрительным восприятием, расширяя возможности использования ИИ.

Новшества выглядят круто, - говорит Евгений Бурнаев, директор Центра прикладного ИИ Сколтеха.

Новое поколение ChatGPT мощнее и дешевле первых версий

"Из принципиально важного - доступ к информации и событиям вплоть до апреля 2023 года, обработка объемных текстов до 300 страниц, а также возможности по использованию голосового диалога и DALL-E. Для разработчиков это еще и снижение цен на API в 2-3 раза, и планируемый магазин обученных чат-ботов, где их можно будет монетизировать, и поиск по PDF", - полагает эксперт.

По его словам, обращает на себя внимание и заявление о том, что OpenAI готова поддержать пользователей в случае судебных претензий правообладателей. Риски нарушения авторских прав такими системами сегодня являются одними из самых значимых для заказчиков, использующих нейросети в своей работе.

Не менее значимым является и увеличение длины контекста - до 128 тысяч токенов, отмечает Иван Оселедец, СЕО Института AIRI, профессор Сколтеха. Еще один важный анонс касается планов по открытию "магазина" решений на основе кастoмизированных под работу с конкретными задачами версий GPT.

"Он будет называться GPT Store и включит в себя созданные благодаря промпт-инжинирингу конфигурации моделей OpenAi. Компания утверждает, что в будущем будет направлять какую-то часть прибыли создателям самых популярных "GPTs", но на данный момент детальной информации о принципах взаимодействия юзеров и магазина пока нет. Вероятно, его появление связано с желанием объединить под своим брендом пользовательские решения и лучше контролировать их распространение", - говорит Оселедец.

Он отмечает, что анонсированные обновления в первую очередь касаются бизнеса, оформления продуктовой линейки и путей взаимодействия с пользователями. На технологическую картину мира больших языковых моделей все это не повлияет. Однако, "прогресс в работе с LLM огромен: существует множество как проприетарных, так и открытых решений, которые уже приближаются к GPT по качеству выдаваемых результатов. OpenAI вынуждена держать марку", - подытоживает Оселедец.

Не вполне согласен с этим Евгений Бурнаев. По его словам, происходящее сейчас с нейросетями напоминает появление интернета.

"В тот момент он воспринимался как доступная онлайн-библиотека, и никто не ожидал, что его появление станет переломным для всего бизнеса и приведёт к появлению таких ИТ-гигантов, как Amazon и Google, а в последующие десятилетия эволюция технологий и цифровых платформ даст толчок новым бизнесам и капиталам. Сегодняшние темпы развития технологий и реакция на них рынка гораздо динамичнее, чем это было 30 лет назад, поэтому аналогично тому, как интернет изменил ИТ-отрасль, выход ChatGPT-4 Turbo может существенно изменить баланс между ведущими компаниями в сфере информационных технологий", - уверен эксперт.