Хакеры создали "криминальный" аналог ChatGPT

Хакеры выложили в даркнет "криминальный" аналог чат-бота ChatGPT, который получил название WormGPT.

У новой версии нет тех ограничений, которые есть у оригинальной нейросети, что сокращает расходы преступников и упрощает решение их задач.

WormGPT уже начал использоваться и в России, о чем свидетельствуют различные дискуссии на теневых форумах, рассказал глава управления киберразведки компании Bi.Zone Олег Скулкин в беседе с "Известиями".

Специалист по информационной защите компании "Код безопасности" Мария Фесенко объяснила, что этот чат-бот работает на основе больших языковых моделей, позволяющих автоматизировать "рутинные" задачи. Одной из основных потенциальных возможностей WormGPT является организация фишинговой кампании и компрометации деловой электронной почты.

Эксперт отметила, что сложные инструменты, примененные в WormGPT, позволяют обходить механизмы безопасности. Более того, какие-либо морально-этические ограничения у подобных чат-ботов отсутствуют, а потому они распространяют информацию, в том числе ту, которая может навредить обычным людям: например, способы изготовления коктейлей Молотова.

"Этот бот также представляет опасность в неопытных руках - например, в руках детей - и психологически нестабильных людей. Запросы, созданные при помощи этой нейросети, способны причинить вред другим людям, разрушить чью-то жизнь и нанести ущерб инфраструктуре", - подчеркнула Фесенко.

Ранее сообщалось, что юристы уличили искусственный интеллект во лжи при подготовке юридических документов.