Дипфейк — технология, которая позволяет подменить лицо человека на фото или видео. Команда программистов из США разработала алгоритм, который предотвращает создание дипфейков.

Причиной первых скандалов вокруг технологии дипфейк стало использование лиц знаменитостей в роликах для взрослых. Сейчас подобные дипфейк-сервисы позволяют сделать голым любого человека. Причем, лучше они работают именно с изображениями женщин.

Кроме воровства личности, дипфейк представляет огромную опасность и для распространения ложной информации. Даже сейчас на дипфейк-видео сложно отличить подделку от оригинала, а в будущем эта технология позволит манипулировать речью и эмоциями любого человека.

Чтобы предотвратить злонамеренное использование технологии дипфейк, ученые из Бостонского университета разработали новый алгоритм, который позволяет защитить любое фото или видео от манипуляций с лицом человека, изображенного на нем.

По сути это обычная цифровая маска, которая изменяет медиафайл таким образом, что создание из него дипфейка становится невозможным.

Новый алгоритм защищает от разных инструментов создания дипфейк, и при попытке манипуляции пиксели с этим фильтром либо останутся без изменений, либо будут полностью искажены.

Авторы разработки опубликовали исходный код своего алгоритма и заявили, что их технология должна помочь предотвратить неблагоприятное использование дипфейк.

Поскольку алгоритм есть в открытом доступе — разработчики дипфейк могут узнать, как работает этот фильтр и научиться обходить его. Следующим шагом ученых должна стать разработка закрытого ПО для борьбы с дипфейк.

«Мы сделали то, что называется атакой „белого ящика“, когда ее параметры известны нарушителю. Очень важным следующим шагом является разработка методов атак „черного ящика“, которые могут нарушить работу дипфейк-сетей способами, недоступными для нарушителя… сейчас мы работаем над тем, чтобы сделать это реальностью», — заявила автор исследования, профессор компьютерных наук Сара Адель Баргал.

В Facebook предупредили, что не будут удалять видео с юмористическим и пародийным контентом, а проверку всех подозрительных роликов смогут осуществить независимые фактчекеры.

«Хотя эти видео все еще редки в интернете, они представляют серьезную проблему для нашей отрасли и общества, поскольку их использование увеличивается», — отметила вице-президент Facebook по управлению глобальной политикой Моника Бикерт.

Источник: techno.nv.ua

Оставить комментарий

avatar
  Подписаться  
Уведомление о