Как стать автором
Обновить
  • по релевантности
  • по времени
  • по рейтингу

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги

Pochtoy.comИнформационная безопасностьМашинное обучениеИскусственный интеллектБудущее здесь


C момента своего появления в декабре 2017-го дипфейки, видео с почти идеальной заменой лица, созданные нейросетью, наводили на экспертов панику. Многие, например, тогда боялись, что теперь еще проще станет «порно-месть», когда бывший бойфренд с достаточно мощным ПК может смастерить любое грязное порно с подругой. А Натали Портман и Скарлетт Йоханссон, о которых порно с deepfake снимали особенно много, публично прокляли интернет.


Чтобы бороться с подступающей угрозой, Facebook и Microsoft недавно собрали коалицию для борьбы с дипфейками, объявив призовой фонд $10 млн тем разработчикам, которые придумают лучшие алгоритмы для их обнаружения. Это помимо DARPA, управления исследованиями Министерства обороны США, выделившего на эту цель $68 млн за последние два года.


Ну так вот, уже поздно. Первое deepfake-преступление уже состоялось.

Читать дальше →
Всего голосов 65: ↑63 и ↓2 +61
Просмотры71.3K
Комментарии 255

Я создал свой собственный дипфейк за две недели и $552

Информационная безопасностьРабота с видеоМашинное обучениеИскусственный интеллект
Перевод

Создавая это видео, я научился многому



Технология дипфейков использует глубокие нейронные сети для убедительной замены на видео одного лица другим. У этой технологии есть очевидный потенциал для злонамеренного использования, и она становится всё более распространённой. По поводу социальных и политических последствий этого тренда было написано уже много хороших статей.

И это не одна из них. Вместо этого я сам поближе ознакомлюсь с этой технологией: как работает ПО для дипфейков? Насколько сложно их создавать, и насколько хорошими получаются результаты?

Я решил, что лучше всего ответить на эти вопросы, создав собственное дипфейк-видео. Редакция выделила мне несколько дней на то, чтобы поиграться с ПО и $1000 на оплату облачных вычислений. Через пару недель я получил результат, представленный на видео в начале статьи. Начал я с видео Марка Цукерберга, выступающего перед конгрессом, и заменил его лицо на лейтенант-коммандера Дейту (Брента Спайнера) из фильма «Звёздный путь: следующее поколение». Всего было потрачено $552.
Читать дальше →
Всего голосов 30: ↑25 и ↓5 +20
Просмотры30.8K
Комментарии 11

Обманы в интернете не исчезнут – что нам с этим делать?

Информационная безопасностьСоциальные сети и сообщества
Перевод

Подложные подписчики, ложные новости, иностранное влияние. Последнее десятилетие открыло нам, что информация в онлайне не всегда такая, какой кажется.




Шёл 2010-й год, и технооптимизм был на пике. Невероятное количество взрослых американцев, 75%, выходили в онлайн – это был огромный скачок по сравнению с 46%, выходившими в интернет за 10 лет до этого. В основном они сидели в интернете в условиях домашнего комфорта, и это был первый раз в истории, когда они делали это настолько массово. Соцсети находились в зародышевом состоянии и набирали обороты – в основном, среди молодёжи – а мировое внимание, судя по всему, сдвигалось от браузеров к мобильным приложениям.

Исследовательский центр Pew Research Center начал новое десятилетие с опроса 895 ведущих технологов, исследователей и критиков, предложив им предсказать, как будет выглядеть связанный интернетом мир в 2020-м. И по поводу одного из вопросов было достигнуто невиданное согласие: 85% опрошенных в один голос ответили, что «социальные преимущества использования интернета значительно перевесят его недостатки», отметив, что интернет, по большому счёту, «улучшает социальное взаимодействие, и будет продолжать делать это и в 2020 году». Они указали на лёгкость общения и огромное количество знаний, появившиеся благодаря информационной эпохе, как на причины для оптимизма.
Читать дальше →
Всего голосов 11: ↑9 и ↓2 +7
Просмотры3.8K
Комментарии 14

Конструктивное использование DeepFake технологии

Исследования и прогнозы в ITИскусственный интеллект

Что такое DeepFake


Технология deepfake – это методика синтеза аудио или видео с использованием генеративно-состязательных нейронных сетей. Впервые такая нейросеть была создана в 2014 году студентом Стэндфордского университета Яном Гудфеллоу. Он автоматизировал процесс обучения двух нейронных сетей, когда одна из них генерирует лица или голоса, а другая анализирует поученные результаты и даёт заключение: похожи они на оригинал, или нет. Технологию можно сравнить с работой художника, который копирует картины известных мастеров, а эксперт пытается выявить такую подделку. Не достаточно просто скопировать изображение, сохранить размеры и пропорции, а требуется повторить мельчайшие детали: технику нанесения краски, её состав, наличие повреждений на холсте и, при наличии, подпись автора. Когда эксперт обнаруживает подделку – об этом сообщается копирующему, который переделывает свою работу, предлагая более качественный вариант подделки. Аналогично нейросети обучают друг друга до тех пор, пока вторая нейросеть примет сгенерированные изображения за реальные. После того, как эксперт не сможет отличить оригинал от копии начинается процесс изготовления более сложных подделок, а именно – создание того, что никогда ранее не существовало. Визуальное представление состязательного обучения двух нейронных сетей подготовила компания OpenAI.

Можно ли распознать Fake видео


С распространением deepfake возникла опасность дискредитации любого человека, запись голоса или фото которого есть в сети. Первой жертвой этой атаки была актриса Галь Гадот. Это стало началом серии атак на представительниц прекрасного пола, вставляя их образы в порно ролики. Следующая волна deepfake атак была направлена на политических лидеров: Барака Обамы, Дональда Трампа, Нэнси Пелоси, Ричарда Никсона и других.

В первый момент deepfake видео выглядят весьма убедительно, но далеко не все они могут обмануть экспертов и специальные алгоритмы.
Читать дальше →
Всего голосов 5: ↑4 и ↓1 +3
Просмотры5.8K
Комментарии 26

Дипфейк видео по одному кадру

Работа с видеоМашинное обучениеКомпьютерная анимацияИскусственный интеллект


пример работы First Order Motion Model


Можно ли из одной фотографии сделать целый фильм? А записав движения одного человека, заменить его на другого в видео? Безусловно, ответ на эти вопросы, крайне важен для таких сфер как кинематограф, фотография, разработка компьютерных игр. Решением может стать цифровая обработка фотографии с помощью специализированного ПО. Задача, о которой идет речь, среди специалистов в этой области называется задачей автоматического синтеза видео или анимации изображения.

Читать дальше →
Всего голосов 10: ↑9 и ↓1 +8
Просмотры7.6K
Комментарии 5

Узнаю тебя из тысячи: новый алгоритм способен распознать дипфейк по отражению в глазах

SelectelМашинное обучениеНаучно-популярноеИскусственный интеллект


Интернет наполнен самыми причудливыми фотографиями и видео знаменитостей. Кто-то пробуется на новые роли, делает вызывающие заявления, выступает в не самых благоприятных образах, неожиданно снимается в фильмах 18+ и творит прочие абсурдности. В общем-то, человек — хозяин своей судьбы, поэтому переживать за всех этих людей не стоит. Но проблема в том, что новые технологии позволяют «подставить» даже вполне здравомыслящего человека, создав дипфейк, видео или фото. Но и от этой «болезни» нашлось лекарство.

Ученые из Университета штата Нью-Йорк в Буффало предложили надежный способ, позволяющий отличить дипфейковое изображение от настоящего. В основе решения — отражение в глазах человека. Как ни странно, но искусственно сгенерированное сетью GAN-изображение имеет отличия в бликах и отражении в глазах.
Читать дальше →
Всего голосов 31: ↑30 и ↓1 +29
Просмотры5K
Комментарии 12

Может ли ИИ заменить голоса актеров из «Симпсонов»

CloudMTSНаучно-популярноеИскусственный интеллект
Перевод

Вычислительные мощности постоянно растут, на рынок регулярно выходят новые, улучшенные технологии. В частности, постоянно развиваются и совершенствуются инструменты создания дипфейков. Возможно ли, что скоро любого персонажа можно будет сымитировать компьютерным образом? 

Дипфейк можно создать даже на основе небольшого количества обучающих данных. А в распоряжении Fox находится запас озвучек за целых 32 года. Давайте разберемся, стоит ли ждать выхода на экран «Симпсонов», в озвучивании которых не были задействованы реальные актеры.

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры7.4K
Комментарии 0

Нейродайджест: главное из области машинного обучения за апрель 2021

PythonМашинное обучениеИскусственный интеллектTensorFlow

Чтобы состарить лицо на фотографии, сменить прическу или заставить его улыбаться, нужно изучить семантику, содержащуюся в отдельных слоях обученной GAN-модели. Недавние исследования генеративно-состязательных сетей показали, что разные слои содержат разную семантику синтезированных изображений: одни отвечают за цвет, а другие за текстуры и т.д.

Очень мало моделей позволяют управлять семантическими атрибутами конкретного слоя. Поэтому в этом месяце продолжают быть актуальными  решения и подходы, которые позволяют управлять скрытым пространством для контролируемого создания высококачественных изображений. С них и начнем подборку:

Перейти к обзору
Всего голосов 10: ↑10 и ↓0 +10
Просмотры3K
Комментарии 2

Ученые из Сеула создали новый алгоритм для создания дипфейков

Работа с видеоМашинное обучение

Иллюстрация: Hyperconnect

Исследователи из сеульской компании Hyperconnect создали алгоритм, который позволяет перенести мимику человека на лицо политика или другой знаменитости. Оригинальная статья была доступна на сайте Hyperconnect, но сейчас ссылка не работает. А препринт исследования опубликован на arxiv.org.
Читать дальше →
Всего голосов 12: ↑12 и ↓0 +12
Просмотры2.6K
Комментарии 3

Cервис для проверки подлинности фотографий

Искусственный интеллект
Как пишет и RBC, компания Jigsaw, «дочка» Alphabet (владеет Google), разработала сервис Assembler для распознавания следов редактирования на фотографиях, которые могут использовать журналисты и исследователи для определения, оригинальная перед ними фотография или поддельная.
Читать дальше →
Всего голосов 2: ↑0 и ↓2 -2
Просмотры878
Комментарии 0

В Индии дипфейк использовали для «позитивной» избирательной кампании

Работа с видеоИскусственный интеллект
image

В Индии накануне выборов в Законодательное собрание Дели в WhatsApp распространили два видео президента Партии Бхаратия Джаната (БДП) Маноджа Тивари, который критиковал действующее правительство Дели Арвинда Кейривала. На первом видео Тивари говорил по-английски, а на втором — на хинди на диалекте хариани.
Читать дальше →
Всего голосов 8: ↑8 и ↓0 +8
Просмотры3.1K
Комментарии 10

МВД запустило госзакупку на изучение способов борьбы с дипфейками

Работа с видеоЗаконодательство в ITИскусственный интеллект
Источник фото: Вести.Hi-tech.

В начале февраля 2021 года МВД объявило на портале госзакупок тендер на проведение исследования возможных способов выявления признаков внутрикадрового монтажа видеоизображений, выполненного с помощью нейронных сетей. Проект получил шифр «Зеркало (Верблюд)». По итогам научных изысканий исполнитель должен будет составить техническое задание на разработку программно-аппаратного комплекса для борьбы с дипфейками.
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Просмотры2.9K
Комментарии 5

Вашингтонский университет научился генерировать дипфейки спутниковых снимков

Информационная безопасностьОбработка изображений

Доцент географии Вашингтонского университета Бо Чжао и его коллеги опубликовали статью на тему «дипфейк-географии», в которой рассказали о собственных экспериментах по генерированию дипфейков спутниковых снимков и по их обнаружению.

Читать далее
Всего голосов 13: ↑13 и ↓0 +13
Просмотры1.9K
Комментарии 0