Facebook и Microsoft запускают конкурс по обнаружению deepfake

[qw1]

Классика жанра. Лучшее решение будет включено в состязательную архитектуру DeepFake 2.0, чтобы новая версия училась обманывать детектор фейков.

[tbl]

Что-то похожее мы делали при построении синтезатора речи: 2 сетки, первая ищет оптимальные векторы параметров генерации речи, а вторая пытается задетектить результат синтеза: человек это сказал, или робот. Так и конкурируют, улучшая себя.

[androidovshchik]

Вирусы и антивирусы… Жизнь это конкуренция)

[kenoma]

Так это же и есть GAN-подход для обучения нейронных сетей.

[dartraiden]

Забавно, кстати, было смотреть, как в Сети наперебой появляются комментарии «DeepNude — отстой, не тратьте время, хорошо, что её выпилили ото всюду, всё равно она ни одно фото у меня нормально не рбработала».

Я потестировал на фотографиях знакомой (да простит она меня), на одной да, грудь размазало по всему телу. А вот на второй… скажем так, практически идеально. Если бы я сам этот фейк не сделал, то вполне бы поверил, что это реальное фото.

[perfect_genius]

У меня это, друг просит вторую. Для научных целей (друг — учёный, честно :)

[Antervis]

ну правильно, выгоднее всего продавать оружие на оба фронта. Лет через 10 политики/знаменитости на любые утечки будут говорить «да это дипфейк»

[hjornson]

Остановите землю, я сойду…

[we1]

Кажется, Пелевин про это не писал.

[we1]

Я и говорю, что он не писал про обнаружение сгенерированных персонажей. Ведь обнаружение, это удар по всенародной любви.

[KonstantinSpb]

The Wall Street Journal рассказал об интересном случае: мошенники использовали голосовой deepfake, чтобы во время телефонного разговора выдать себя за руководителя неназванной немецкой фирмы. По телефону фиктивный CEO, чей голос был подделан при помощи ИИ, попросил главу неназванной дочерней фирмы из Британии срочно перевести 220 000 евро на счет некоего венгерского поставщика, хотя на самом деле этот счет принадлежал преступникам.

Не зря торопятся, т.к. по телефону много делов можно натворить, еще подменив номер телефона через SS7

[bars_arseniy]

Facebook и Microsoft решили, что deepfake что-то медленно развивается. И надо бы его подстегнуть. Теперь с обеих сторон будет будут ИИ: с одной стороны создавать фейки, с другой их искать. Так развитие пойдёт гораздо быстрее.
К тому же они как минимум обзаведутся детектором и смогут его продавать. Или другим способом извлекать прибыль из его применения.

[SADKO]

Хотели бы подстегнуть, запустили бы нормальный конкурс, а это попил грантов или пиар акция с целью подготовки почвы для законодательного ограничения оборота информации по технологиям так называемого ai.

[qw1]

А что в этом конкурсе ненормального?

[Umpiro]

Интересно, какой процент ложных срабатываний у текущих разработок.

[Soniclev]

И получится что-то вроде генеративной нейронной сети.