Comments 16
Это ж сколько времени вы потратили, чтобы все протестить?
Так тут ещё вопрос в другом - были ли ролики в которых вы не нашли описываемых артефактов. И какой у них процент.
Если не появится «профит», который будет перекрывать понесённые затраты на создание дипфейка.
Немного не понял. Сами же в первой части статьи приводите случаи, когда профит вполне очевиден, и думаю явно окупает дипфейк, даже в случае с японским дедушкой-девушкой. Про украденные за два года $76 миллионов и говорить нечего. Так что профит по-моему как раз многократно (если не на порядки) окупает затраты.
А в целом спасибо, очень интересно, хотя и довольно далек от этой темы.
Что "затраты", что "профит" - собирательные понятия. Затраты складываются из затраченного времени на создания, задействованную технику, необходимые начальные знания + вероятность достижения профита.
Например, с помощью deepnude можно было в пару кликов генерировать фейки и пытаться кого-то шантажировать ими. Но и профит был призрачен. Тем не менее, затраты < профит, поэтому в какой-то момент тема была довольно популярной.
В выводах я имел ввиду, что сейчас создание качественного, не требующего много денег, времени, техники и знаний дипфейка, который принесёт ощутимый финансовый выхлоп, невозможно. Что-то должно в этом "уравнении" измениться.
Согласен, но только до какой-то степени. Например в случае с дедушкой-девушкой, для того чтобы стать топовым блогером полностью имеет смысл хорошо вложится. Деньги (в том числе заплаченные специалистам окупятся многократно). Топовые блогеры зарабатывают очень неплохо. А тем более это имеет смысл когда есть перспектива украсть 70 миллионов баксов... Да и с той же deepnude далеко не всё так безнадёжно. Скажем школа в каком-нибудь глухом городке. Или ещё какой подобный гадюшник, где публика не сильно грамотная. Вполне может и прокатить...
А вообще тема страшненькая. Даже не в смысле шантажа или воровства. А тем, что человечество получило возможность неограниченного создания контента. Любого. Тут на хабре уже была статья https://habr.com/ru/post/698852/ о том, как мужик купил книгу(причем с высоким рейтингом на Амазоне !!!), скорее всего написанную какой-то системой ИИ. А вот мужик рассматривает гипотетическую возможность получить от туповатого менеджера задание быстренько "слегка подправить" код, сгенерированный chatGPT https://habr.com/ru/post/714792/ (мне кстати эта тема весьма близка профессионально). Эта "имитация творчества" создаёт шум, за которым легко потерять и обесценить истинное человеческое творчество. В 19-веке, писателей было мало, и каждая книга была СОБЫТИЕМ. И что сейчас, с откровенно коммерческими поделками типа Дарьи Донцовой... А через пару лет мегатонны всякого говна на любой вкус(причем зачастую монетизируемого !!!), будут генериться автоматически парой кликов мышки ! Вобщем боялись мы сильного ИИ (который по-моему вообще невозможен на нынешнем уровне знаний), восстаний роботов, порабощения людей машинами и т.п. А бояться следовало того, к чему мы идём сейчас, и что уже почти наступило. Сейчас задумался над этой Вашей статьёй и как-то резко стало неуютно...
То есть как минимум для определения качественного дипфейка нужен видеоредактор для детального рассматривания. Смотря видосик в телеграмме на телефоне определить фейк ли это далеко не всегда возможно.
Не забывайте про пункт 0. Контекст. Если от ролика ловите диссонанс, это уже повод задуматься.
В целом же индустрия идёт по пути детекта дипфейков без участия пользователей. Хотят сделать так, чтобы весь фейк-контент в обязательном порядке имел какую-то маркировку. Если же её нет, то сама компания должна будет проверить контент на фейковость перед отправкой. И либо проставить метку принудительно, либо не дать отправить.
свежее банковское законодательство, типа PSD2 принудительно толкает в сторону использования биометрии при обслуживании физ.лиц, подтверждения транзакций. Процессы онбординга тоже стараются сделать онлайн. Так что "перспективы" тут весьма заманчивые.
Увеличивается ли число мошенничеств с дипфейками?
Как минимум способы становятся всё более изощрёнными, недолго и параноиком стать :)
Следующая итерация развития нейросетей: определение дипфейков. Меч в любом случае останется обоюдоострым. По-крайней мере, после случая с китайцами вполне напрашивается. В итоге застанем момент, когда для идентификации у банкомата придётся попрыгать, походить, плюнуть в трубку (определение генома) и рассказать стишок.
Дипфейк здесь может выручить.
Насчёт клонирования и синтезации речи тут ещё про прикольный сервис (Descript) показывают: https://youtu.be/J_wuLcTShQU&t=2m20s
Начальная дипфейкология: как сделать, как распознать (испытано на себе)