12 августа 2019

Министерство обороны США попытается решить проблему deepfake

Работа с видеоОбработка изображенийМашинное обучениеИскусственный интеллект


Управление перспективных исследовательских проектов Министерства обороны США (DARPA) ищет средства для быстрого обнаружения deepfake в условиях «растущей угрозы крупномасштабных дезинформационных атак».

На прошлой неделе Управление объявило о том, что 28 августа проведёт день соискателей. Цель мероприятия — дать больше информации о программе Semantic Forensics (SemaFor). Программа, по словам DARPA, будет разрабатывать способы обхода некоторых слабых сторон современных deepfake-инструментов.

«Методы обнаружения, которые использовались раньше, часто можно обмануть из-за их ограниченных ресурсов, — говорится в объявлении DARPA. — Однако существующие алгоритмы автоматического генерирования и манипулирования мультимедиа в значительной степени подвержены семантическим ошибкам».

Под «семантическими ошибками» специалисты Управления имеют в виду ситуации, когда в искусственно сгенерированных изображениях допускаются просчёты — например, когда у человека с искусственно сделанным лицом оказываются «несоответствующие серьги» или другие неправильные детали.

«Эти семантические неудачи дают возможность получить преимущество», — говорится в сообщении Управления.

Предварительный график дня соискателей включает в себя брифинги ряда должностных лиц DARPA с учётом выделенного времени для вопросов и ответов участников. Для участия в мероприятии нужна предварительная регистрация.

Это объявление — не первая попытка DARPA нанести удар технологии deepfake. С 2016 года в агентстве работает команда Media Forensics (MediFor), занимающаяся разработками в этой области. Цель работы команды заключается в том, чтобы «выровнять ситуацию на игровом поле цифровых изображений, которая в настоящее время благоприятна для манипуляций, путем разработки технологий автоматизированной оценки изображений или видео». Программа стартовала в 2016 году и будет финансироваться до 2020 года. Дэвид Доерманн, руководитель программы MediFor, заявил NBC News, что после 2020 года команда надеется работать с компаниями Кремниевой долины над интеграцией инструмента непосредственно на своих платформах.

Всего же за последние два года Управление потратило $68 миллионов на разработки, призванные обнаруживать deepfake.
Теги:deepfakeобработка изображенийобработка видео
Хабы: Работа с видео Обработка изображений Машинное обучение Искусственный интеллект
+13
10,8k 2
Комментарии 25
Похожие публикации
C/C++ Developer, Digital image processing
от 2 000 до 2 500 $Almalence, Inc.Новосибирск
Senior ML Engineer
от 4 000 до 5 500 $HyprrМожно удаленно
Разработчик информационной системы (backend)
от 80 000 ₽ГК “Северный Путь”Санкт-ПетербургМожно удаленно
Java разработчик
от 150 000 до 220 000 ₽netPrint.ruМосква
Лучшие публикации за сутки