20.05.2025 08:06
Digital

Эксперт: Нейросеть может оказать медвежью услугу

Текст:  Юрий Титов (ведущий научный сотрудник лаборатории прикладного моделирования РЭУ имени Г. Плеханова)
Российская газета - Экономика Центрального округа: №108 (9647)
Еще недавно любой человек в учебе сталкивался с предметами, требующими запоминания большого объема информации. Для меня таким предметом в вузе был математический анализ. Я штудировал учебник три дня, пока не осознал, что надо не просто заучивать все подряд, а выделять из обширного текста ключевые моменты.
Читать на сайте RG.RU

Мы пробегаем глазами по материалу, ищем важные термины и строим между ними взаимосвязи, игнорируя второстепенные детали. Такая работа мозга способствует формированию нейронных связей и улучшает понимание концепций. Причем связи, сформированные на одной дисциплине, можно использовать при изучении другой.

Сегодня сам метод работы с информацией изменился. Развитие генеративного искусственного интеллекта и больших языковых моделей, таких как системы на основе GPT, позволяет мгновенно получать ответы на любые вопросы. От пользователя не требуется дополнительных усилий по поиску и фильтрации данных. Не знаешь термин? Не понимаешь какую-либо функцию? Хочешь переформулировать текст? Просто сделай запрос, и языковая модель сделает работу за тебя. Кажется, что за этим - будущее. У каждого студента в телефоне найдется ответ практически на любой вопрос.

Однако в основе генеративного ИИ лежит не искусственный интеллект в привычном его понимании. Каждое следующее слово здесь выбирается на основе вероятностного распределения с опорой на те объемы текстов, на которых модель была обучена. Если ее не "тренировали" на нужной вам информации, то и получить "правильные" слова не получится. Для сложных отдельных систем информации в интернете практически нет, поэтому применять генеративные модели трудно.

Производство нового текста с помощью нейросети еще недавно вызывало восхищение, а сейчас открыто называется "галлюцинацией". Речь о случаях, когда нейронная сеть генерирует неверные или несуществующие факты - отличить их от правды порой крайне сложно. И хотя разработчики позволяют отключить галлюцинации, полностью избавиться от такого поведения модели невозможно.

В нашей стране студенты быстро приноровились применять генеративный ИИ. В целом ребята и прежде активно копировали тексты и прочий материал из интернета. С этим несложно бороться, несложно и натренироваться определять "машинный" текст. Но генеративный ИИ принес и другие эффекты…

Студенты быстро приноровились применять генеративный ИИ

Вместо того чтобы самостоятельно искать информацию в учебнике, студенты стали получать уже обработанный материал с выделенными ключевыми моментами. Это кажется удобным, однако не дает целостной картины для формирования полноценного понятийного аппарата и нейронных связей. Простота формулировки запросов и уверенность в полученных ответах мешают молодым людям осознать глубину и многогранность материала. Им сложно отделять важное от второстепенного.

Получается, что ИИ, который значительно упрощает доступ к информации, создает риск поверхностного восприятия знаний. Студенты могут стать зависимыми от технологий и потерять навыки критического мышления и анализа информации. Стоит помнить, что нейросеть не определяет, каким образом следует решать задачу, какие технологии использовать. Она даже не может установить, действительно ли задача требует решения!

Технологии Воронеж