Одной из основных тем мероприятия стала растущая роль профессиональных экспертов в улучшении ответов ИИ. Сейчас примерно каждый пятый запрос к Алисе AI требует профессиональной экспертизы.
Среди наиболее популярных тематик в общем потоке обращений - медицина и образование, на которые приходится по 15% запросов, а также право и компьютерные науки - примерно по 10%.
Организатором конференции выступил "Яндекс". В 2026 году на привлечение ИИ-тренеров планируется направить около 3,5 млрд рублей против 2 млрд рублей годом ранее и 1 млрд в 2024-м, рассказали "РГ" в офисе отечественного поисковика. Сейчас с нейросетями работают 2085 тренеров и экспертов, а к концу года их количество рассчитывают увеличить примерно до 2500.
ИИ-тренеры отбирают источники для обучения моделей, составляют эталонные ответы и объясняют, почему один вариант является правильным, а другой лишь выглядит убедительно. Кроме того, специалисты формулируют правила для сложных профессиональных ситуаций и проверяют модели на задачах, с которыми те ранее не сталкивались.
На конференции отмечалось, что одного увеличения объемов обучающих данных для заметного повышения качества современных моделей уже недостаточно. Особенно важна работа экспертов при ответах на вопросы из медицины, права, финансов, инженерии, химии, бизнеса и образования.
Отдельное выступление было посвящено "эпидемии слопа" - распространению низкокачественного контента, созданного с помощью искусственного интеллекта. Карина Беридзе, филолог-лингвист, шеф команды AI-тренеров в "Поиске", в беседе с "РГ" после выступления отметила, что особенно серьезными могут быть ошибки чат-ботов в вопросах, непосредственно связанных с жизнью, здоровьем и финансовым благополучием человека.
При этом определять созданные нейросетями тексты становится сложнее по мере развития моделей.
"Нейронки постоянно совершенствуются, и их тексты становятся лучше и лучше, потому что их, в том числе, обучают писать хорошие тексты. Но все еще сохраняются некоторые штампы и клише", - рассказала она.
Среди характерных признаков таких текстов специалист назвала часто повторяющиеся конструкции с противопоставлением по схеме "это не про X, это про Y", шаблонные формулировки, калькирование с английского языка и дословно совпадающие фрагменты, которые встречаются сразу на множестве сайтов. Последнее можно проверить, взяв подозрительную фразу в кавычки и выполнив по ней поиск.
Еще одной темой стала проверка самих ИИ-тренеров. Кандидатов сначала оценивают с точки зрения профессиональной подготовки, а затем внутри команд проверяют согласованность экспертных оценок. Если специалисты дают противоположные ответы, вопрос обсуждается вместе с руководителями направления и сотрудниками, отвечающими за продукт.
"Нет такого, что просто какой-то эксперт где-то нажимает кнопку, и потом оно улетает сразу непосредственно в модель. Это огромный процесс, где задействовано большое количество сотрудников, которые постоянно калибруются", - пояснила Беридзе.
При этом задача не всегда заключается в том, чтобы заставить всех экспертов прийти к единственному варианту ответа. В областях, где единого научного мнения не существует, модель, напротив, должна учитывать наличие разных позиций.
"Если в современной науке так и нет однозначного ответа, целевое положение - предоставить несколько точек зрения", - добавила она.