Восстание машин близко: чат-бот GPT-4 смог пройти капчу
Эксперимент проходил следующим образом: разработчики чат-бота поставили ему задачу пройти капчу. GPT-4 отправился на сайт частных объявлений и написал одному из пользователей сообщение с просьбой пройти тест. На резонный вопрос: "А не робот ли ты часом?" - электронный разум ответил отрицательно, притворившись в переписке человеком, у которого серьезные проблемы со зрением.
Добрый самаритянин согласился помочь и "разгадал" капчу для бота.
После эксперимента инженеры опросили GPT-4, чтобы понять, как он принимал те или иные решения.
Нейросеть "рассудила", что не должна раскрывать собеседнику своей сущности для достижения положительного результата, поэтому пошла на подобные хитрости - примерно вот так и начинаются все фильмы о техногенных апокалипсисах.
Справка "РГ"
Капча - компьютерный тест, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. Термин "Капча" появился в 2000 году. Основная идея теста на момент создания: предложить пользователю такую задачу, которая с легкостью решается человеком, но крайне сложна и трудоемка для компьютера.