16.03.2023 14:17
    Поделиться

    Восстание машин близко: чат-бот GPT-4 смог пройти капчу

    Последняя линия защиты человечества от роботов пала - нейронная сеть GPT-4 смогла обойти капчу. Как пишет американский журнал Vice, бездушной машине для этого потребовалось обмануть человека.
    Восстание машин близко: чат-бот GPT-4 смог пройти капчу
    Восстание машин близко: чат-бот GPT-4 смог пройти капчу / iStock

    Эксперимент проходил следующим образом: разработчики чат-бота поставили ему задачу пройти капчу. GPT-4 отправился на сайт частных объявлений и написал одному из пользователей сообщение с просьбой пройти тест. На резонный вопрос: "А не робот ли ты часом?" - электронный разум ответил отрицательно, притворившись в переписке человеком, у которого серьезные проблемы со зрением.

    Добрый самаритянин согласился помочь и "разгадал" капчу для бота.

    После эксперимента инженеры опросили GPT-4, чтобы понять, как он принимал те или иные решения.

    Нейросеть "рассудила", что не должна раскрывать собеседнику своей сущности для достижения положительного результата, поэтому пошла на подобные хитрости - примерно вот так и начинаются все фильмы о техногенных апокалипсисах.

    Справка "РГ"

    Капча - компьютерный тест, используемый для того, чтобы определить, кем является пользователь системы: человеком или компьютером. Термин "Капча" появился в 2000 году. Основная идея теста на момент создания: предложить пользователю такую задачу, которая с легкостью решается человеком, но крайне сложна и трудоемка для компьютера.

    Поделиться