07.07.2020 19:41
    Поделиться

    Создана защита от публикации ложных фото и видео

    После запуска американской сверхтяжелой ракеты Crew Dragon в интернете стремительно набрало популярность видео, где "Илон Маск" исполняет песню "Трава у дома". Ролик был сделан при помощи технологии Deepfake, когда алгоритм создает ложное изображение на основе другого.

    Понимая, что распространение технологии может привести к серьезным последствиям, команда ученых из Бостона создала алгоритм, который позволит защитить выкладываемые в интернет видео и фотографии от изменений. "Программы, генерирующие дипфейки, работают по алгоритмам, сформировавшимся в результате предварительного обучения их нейросетей на больших выборках фотографий, - объясняет Дмитрий Кузнецов, директор по методологии и стандартизации Positive Technologies. - Нейросеть определяет в изображении лица характерные точки (уголки губ и глаз, кончик носа, мочки ушей и т.п.) и формирует фальшивое изображение, ориентируясь на них. Если человек не хочет, чтобы его фотография использовалась как основа для дипфейка, он может защитить ее специальной стеганографической обработкой. Она изменяет отдельные фрагменты изображения так, что изменения не видны человеческому глазу, но заставляют нейросеть ошибаться. В результате на дипфейках, которые формируются на основе защищенных фотографий, появляются дефекты".

    По словам эксперта, такая предварительная защита фотографий может применяться в соцсетях для защиты изображений людей от их использования в дипфейках, но ее нельзя назвать полностью эффективной. "Авторы метода в своей статье демонстрируют, что точно таким же способом (незаметным для человека "замыливанием" изображения) можно уничтожить стеганографическую защиту и сделать изображение вновь пригодным для формирования дипфейков", - заключает Кузнецов.

    Член совета Госдумы по информационной политике, информационным технологиям и связи Евгений Лифшиц полагает, что ситуацию с дипфейками нужно регулировать самим соцсетям и принимать для этого соответствующие меры. А защита от редактирования видео должна встраиваться в социальные сети на уровне программного года. "Да, мы лишимся смешных мемов, вроде Илона Маска, поющего "Трава у дома", но зато не будет ситуации массовых беспорядков, когда, допустим в какой-то кризисный момент станет вирусным условное фейковое видео Трампа с призывом к линчеванию митингующих".

    Поделиться