Придуман робот, доводящий телефонных мошенников до бешенства
Как отмечают в банке "Тинькофф", средняя продолжительность разговоров роботов с мошенниками составляет 2-4 минуты, отдельные звонки могут длиться свыше 10 минут. Чем дольше злоумышленник "висит" на линии - тем меньшее число потенциальных жертв он успевает обзвонить за день. Это позволяет снизить число успешных атак, в ходе которых граждан вынуждают хитростью расстаться со своими накоплениями, зарплатами и пенсиями.
Разговоры мошенников с человекоподобными прототипами также позволяют собирать новые схемы и уловки злоумышленников для защиты абонентов и обновлять базу мошеннических телефонных номеров, во время звонков с которых защитник включает сценарии человекоподобных роботов. Для создания серии персонажей привлекались психологи и антифрод-эксперты, которые помогали разработать различные архетипы собеседников, к которым привыкли мошенники. Также при разработке сценариев реагирования на мошенников учитывались их типичные скрипты общения с жертвами.
В записи реплик человекоподобных роботов принимали участие сотрудники банка, а также профессиональные дикторы: Петр Гланц (голос Дэдпула в официальном дубляже) и Дарья Блохина.
"Мы уже давно заметили, что мошенники "раскусили" классических телефонных секретарей, которых стали разрабатывать крупные компании и экосистемы. Поэтому мы с помощью экспертов разработали серию персонажей на основе различных архетипов, знакомых мошенникам", - говорят в компании-разработчике.
Там отмечают, что персонажи создавались таким образом, чтобы походить на настоящих людей и "взламывать" скрипты, по которым работают мошенники. В большинстве таких структур разработаны схемы из десятков и сотен вариантов развития беседы и работы с возражениями, что фактически лишает жертву возможности выйти из разговора в рамках диалога. При этом некоторых персонажей делали намеренно грубоватыми для достижения максимально реалистичного эффекта. "Самое интересное, что в таких сценариях меняются роли, теперь добычей становятся сами мошенники. - Защитник Олег вынуждает их играть в свою игру, а не наоборот", - отмечают разработчики.
Среди персонажей, которых изображают роботы, - пожилой мужчина, который во время разговора ищет свои очки, молодая мама, которая пытается справиться с активным ребенком на детской площадке, мужчина, выгуливающий свою собаку в парке, раздраженный мужчина за рулем.
"Мошенники разговаривают с несколькими десятками людей в сутки. Получается, что за неделю это несколько сотен разговоров, несколько сотен голосов. И дальше, если эти роботы смогут варьировать голоса, истории, которые будут затягивать разговор с мошенником, если будет несколько сотен тысяч таких вариантов, то получается, что мошенник не сможет распознать, не сможет вспомнить голос, не сможет вспомнить вот такую же самую какую-нибудь феерическую историю, которую робот ему рассказывает. Получается, что при таком количестве вариативности распознать, что мошенник говорит с роботом, мошеннику будет тяжело", - говорит главный эксперт "Лаборатории Касперского" Сергей Голованов.
Для разработки роботов была создана специальная модель на базе искусственного интеллекта. Модель провела анализ 40 тыс. минут звонков мошенников, а также скрипты их разговоров, фразы-триггеры, после которых злоумышленники готовы продолжить разговор, и эмоциональную реакцию мошенников на разные сценарии событий. На основе собранного массива данных с участием экспертов-психологов были созданы роботы-персонажи, каждый из которых обладает своим характером и специально разработанными речевыми уловками по удержанию мошенника на линии.
Во время разговора роботы реагируют на триггерные фразы и в зависимости от этого включают нужный сценарий разговора. Например: переспрашивают информацию, отвлекаются на внешние события, роботы также могут якобы позвать для участия в разговоре стороннего человека, усомниться в честности собеседника или задавать дурацкие вопросы.
Исследование Group4media, опубликованное еще в октябре 2022 г., показало: 63% жителей России хотя бы один раз за предыдущие полгода пользовались голосовым помощником. Чаще всего взаимодействие с ассистентом происходит через смартфон. По оценкам Just AI, объем российского рынка разговорного искусственного интеллекта в 2020 г. составлял всего $76 млн, или 5,5 млрд руб. При этом к 2025 г. отечественный рынок достигнет $561 млн, эту сумму заработают внешние вендоры голосовых помощников. Совокупный среднегодовой темп роста этого рынка в 2021-2025 гг. составит от 38 до 81%.
ДИАЛОГ 1
Мошенник: Анастасия Эдуардовна?
Робот: Сейчас, секундочку. Извините, пожалуйста. Дима, Дим! Вылези, пожалуйста, из ракеты, я тебя прошу. Ладно, все, бегай так, чтобы я тебя видела.
Мошенник: Анастасия Эдуардовна.
Робот: Так, и че?
Мошенник: Полиция вас беспокоит, главное управление МВД. Капитан полиции Домышев Денис Владимирович. Обращаю также внимание, наш диалог ведется под запись и будет прикреплен к материалам уголовного производства. Смотрите, нам поступило заявление.
Робот: Пипец, конечно, и че дальше с этим делать?
Мошенник: Поступило заявление от Центрального банка по статье мошенничество совершенное.
Робот: Вы что, дебил? Мужчина, уберите свою собаку, вы ее на детскую площадку привели. Тут маленькие дети играют. Идите, своего цербера на привязи держите.
Мошенник: Вы кому сказали "дебил", мне?
Робот: Алло, да, извините. Давайте с самого начала по порядку, ладно?
Мошенник: Поступило заявление от Центрального банка по статье 159, мошенничество.
Робот: Так, ну и что, вы сами ничего не можете с этим сделать? У вас же голова и руки есть!
Мошенник: Мы понятия не имеем, откуда идет утечка персональных данных. Кто в этом замешан. Поэтому нам необходимо...
Робот: Знаете что, я вообще не буду напрягаться. Вы мне позвонили, вам это надо, вы и давайте делайте что-нибудь. Я жду как бы.
Мошенник: Я вам позвонил, чтобы провести акт дознания...
Робот: Ну и куда ты сел?
Мошенник: То есть слать общую информацию.
Робот: Штаны от песка тоже будешь сам отстирывать? Давай вставай быстро.
Мошенник: Вы сейчас находитесь...
Робот: Так, ну а вы где сидите? Все давай, у меня тут сын хочет кое-что тебе передать.
Жулик, не воруй.
Мошенник: Это кто сейчас со мной говорит?
Робот: Алло.
Мошенник: Я слышу иронию в вашем голосе и в ваших действиях.
ДИАЛОГ 2
Робот: Служба моральной поддержки. Че тебе нужно?
Мошенник: Наталья Викторовна, здравствуйте. Полиция вас беспокоит, главное управление МВД. Капитан полиции Карш Андрей Валерьевич. Связываю...
Робот: А я - полковник-мухомор!
Мошенник: Ставлю вас в известность, что наш разговор далее будет записываться.
Робот: Твое дело, извращенец ты такой.
Мошенник: Вы там со мной шутки шутить думаете, Наталья Викторовна?
Робот: Погоди-ка секунду. Говори, где вы с дружками запрятали чемодан с криптой. У тебя пять минут вспомнить, пока я собираю шмотки.
Мошенник: Наталья Викторовна.
Наталья Викторовна, вас полиция беспокоит. Вы понимаете, с кем вы разговариваете?
Робот: Я вернулся. Мочи, че хотел.
Мошенник: Наталья Викторовна.
Робот: Так, это взял. Извини, отвлекся. Можешь повторить?
Мошенник: Наталья Викторовна, вы знаете, с кем вы разговариваете?
Робот: Со мной. Ты в темноте, что ли, номер набирал?
Мошенник: Наталья Викторовна.
Робот: Так, а дальше?
Мошенник: Я могу расценивать ваше поведение как факт того, что вы намеренно мешаете следствию.
Робот: Эй, ты что вытворяешь? Сиди смирно и хорош мычать. Это я не тебе. Все, я тут.
Первое время
По данным платформы безопасности "Тинькофф Защита", первые 5-7 минут разговора со злоумышленниками являются наиболее опасными. В среднем именно столько времени мошенникам требуется, чтобы втереться в доверие жертвы и потом убедить ее передать номера карт, коды из СМС, установить вредоносные программы и осуществить другие необходимые действия для продолжения мошеннического сценария, например, увести абонента в мессенджер.
"Мы не просто делали персонажей, но и писали диалоги с редакторами по законам драмы: завязка/рост/кульминация/концовка. Мы хотели, чтобы для пользователя это была маленькая увлекательная история, а у истории должна быть сочная развязка, иначе не случится катарсис по классическим законам драматургии", - поясняют разработчики.
