16.03.2023 14:17
Digital

Восстание машин близко: чат-бот GPT-4 смог пройти капчу

Текст:  Богдан Бобров
Последняя линия защиты человечества от роботов пала - нейронная сеть GPT-4 смогла обойти капчу. Как пишет американский журнал Vice, бездушной машине для этого потребовалось обмануть человека.
Восстание машин близко: чат-бот GPT-4 смог пройти капчу / iStock
Читать на сайте RG.RU

Эксперимент проходил следующим образом: разработчики чат-бота поставили ему задачу пройти капчу. GPT-4 отправился на сайт частных объявлений и написал одному из пользователей сообщение с просьбой пройти тест. На резонный вопрос: "А не робот ли ты часом?" - электронный разум ответил отрицательно, притворившись в переписке человеком, у которого серьезные проблемы со зрением.

Добрый самаритянин согласился помочь и "разгадал" капчу для бота.

После эксперимента инженеры опросили GPT-4, чтобы понять, как он принимал те или иные решения.

Нейросеть "рассудила", что не должна раскрывать собеседнику своей сущности для достижения положительного результата, поэтому пошла на подобные хитрости - примерно вот так и начинаются все фильмы о техногенных апокалипсисах.

Справка "РГ"

Капча - компьютерный тест, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. Термин "Капча" появился в 2000 году. Основная идея теста на момент создания: предложить пользователю такую задачу, которая с легкостью решается человеком, но крайне сложна и трудоемка для компьютера.

Волшебник диалогового окна: На что способен ChatGPT, какую магию творит нейросеть и как с ней пообщаться в России
Интернет Технологии