Власти Китая объявили любую публикацию заведомо ложной информации, в том числе дипфейков, уголовным преступлением. Соответствующий закон вступит в силу 1 января 2020 года.
Согласно новым нормам, все дипфейки нужно будет отмечать специальной пометкой, которая будет предупреждать пользователей о том, что это ненастоящая новость.
Закон приняла Администрация киберпространства Китая. Чиновники отметили, что использование дипфейк-технологий может «поставить под угрозу национальную безопасность, подорвать социальную стабильность, а также нарушить общественный порядок и ущемить законные права и интересы граждан».
Стоит отметить, что в сентябре китайские разработчики выпустили приложение ZAO, которое позволяло моментально создавать дипфейк-видео с определенным человеком при помощи всего одного его портрета. ZAO стало самым популярным приложением в китайском AppStore. Изначально в пользовательском соглашении говорилось, что все права на созданный контент принадлежат разработчикам. Позднее в ZAO пообещали удалять контент со своих серверов, если пользователь удалит его у себя в смартфоне.
См. также: «Исследование показало, что 96% дипфейков в интернете — это порно с известными женщинами или бывшими подругами»
В октябре в Калифорнии были приняты первые два законопроекта в США, касающиеся дипфейков. Первый делает незаконным размещение любых видео с манипуляциями в политических целях — например, замена лица или речи кандидата для его дискредитации. Второй позволит жителям штата подать в суд на любого, кто использует дипфейк в порнографическом видео. Авторы законопроекта утверждали, что распространение роликов, созданных с помощью технологии Deepfake, в которых к тому же фигурируют политики, могут обмануть общественность и повлиять на результаты выборов.
В Конгрессе США находятся на рассмотрении четыре законопроекта, касающиеся дипфейков. В них также содержатся положения о маркировке подобных видео и обязательствах указывать их создателей. Если нормы будут одобрены, то распространителей сомнительного контента можно будет штрафовать.
См. также: «ИИ от Amazon облегчает борьбу с непристойным контентом, загружаемым пользователями»
Коммерческие компании включились в борьбу с дипфейками. Facebook совместно с Microsoft и коалицией «Партнёрства по искусственному интеллекту во благо людей и общества» (PAI), а также научными работниками из нескольких университетов в сентябре объявили конкурс на разработку технологии распознавания deepfake. Facebook поручит исследователям создавать реалистичные дипфейки, после чего участники конкурса будут прорабатывать алгоритмы их обнаружения. Призовой фонд проекта составляет $10 миллионов. Первые дипфейки для конкурса протестируют на Международной конференции по компьютерному зрению, а весь набор видео для работы выпустят в декабре.
Google в сотрудничестве с компанией Jigsaw (бывшей Google Ideas) также в сентябре выпустила обширный датасет, в который вошло более трех тысяч видеороликов, созданных с помощью искусственного интеллекта. Видеоролики исследователи добавили в другой большой проект, посвященный подмене лиц на видео, — FaceForensics++.
В октябре Facebook AI Research заявила о разработке системы машинного обучения, которая не дает искусственному интеллекту определять людей по видео. Алгоритм просто заменяет лицо человека его слегка искаженной версией, а ИИ использует архитектуру кодировщика-декодера и генерирует искаженные и неискаженные изображения лица человека, которые затем можно встроить в видео. В Facebook заявили об отсутствии планов по применению новой технологии в приложении. Однако данную систему можно использовать при создании материалов, которые остаются узнаваемыми для людей, а также для обучения систем ИИ с целью улучшения систем восприятия глубины видео.
