"Балабоба" представляет собой нейросеть, использующую ИИ на основе языковой модели "YalM", которая способна генерировать каждое следующее слово в предложении. Отмечается, что в процессе обучения использовали новостные сайты, записи в социальных сетях и другие источники. Та же нейросеть используется и в голосовом помощнике "Алиса", отмечают в компании.
Тем не менее, проект "Яндекса" не является чем-то уникальным. В мире уже давно существуют нейросети, которые способы самостоятельно генерировать тексты по заданной тематике. Они основаны на алгоритме GPT-3 - Generative Pre-trained Transformer 3, разработанном компанией OpenAi. Алгоритмы GP-3 обучаются на 175 млрд параметров и могут решать широкий спектр задач. "Обучение нейросети подобно обучению ребенка, объясняет Никита Солодун, - эксперт по интеллектуальным вычислительных системам Huawei. - Только в отличии от ребенка, которому хватит объяснения кто такая сова и 10 ее картинок, чтобы ее отчетливо нарисовать, генеративной нейросети нужно таких картинок и объяснений пару сотен, тысяч, а может и сотен тысяч".
В декабре 2020 года в России была представлена нейросеть ruGPT-3, которая генерирует тексты на русском языке и использует для этого суперкомпьютер "Кристофари". "Нейросети развиваются очень медленно из-за того, что для них требуется сложная инфраструктура и наблюдается огромный дефицит специалистов в области машинного обучения и анализа данных. Первую проблему можно решить путем предоставления инструментов для облачных вычислений", - считает Отари Меликишвили, лидер продуктового направления AI Cloud, компании SberCloud.
Совершенствование нейросетевых моделей может быть полезно в очень разных сферах - на их основе разрабатывается большое количество пользовательских и бизнес-сервисов. Следующий качественный рывок в этой области потребует экспоненциального увеличения объема задействованных вычислительных ресурсов. "Возможно, решению этой проблемы поспособствует разработка квантовых компьютеров - уже сейчас появляются квантовые алгоритмы машинного обучения, в том числе и в виде библиотек на квантовом языке программирования Q#", - говорит Дмитрий Сошников, ведущий эксперт Microsoft в области искусственного интеллекта и машинного обучения.