«Имбирь. 3000 рублей за кг». Подобные ценники на корнеплод мы наблюдали в супермаркетах в 2020 году, после чего имбирь и вовсе исчез с прилавков, а купить его можно было разве что в интернете и то по предзаказу. Ажиотаж был вызван расхожим мнением, что имбирь - панацея от новой коронавирусной инфекции. Впрочем, вскоре Всемирная организация здравоохранения эту информацию опровергла, а новость пополнила список фейков.
Конечно, не без последствий. Потребовалось даже вмешательство ФАС, чтобы цены на продукт вернулись к допандемийным. Как возникают фейки и почему этому отчасти способствуют нейросети, в этой статье в блоге ЛАНИТ.
Но для начала давайте все же поставим точку в истории с имбирем. После опровержения ВОЗ журналисты даже проводили расследования, чтобы выяснить «откуда растут ноги». В одной из таких публикаций рассказывается, что впервые о чудодейственной силе имбиря в борьбе с коронавирусом обмолвился рефлексотерапевт Олег Торсунов на одной из своих лекций. Знал ли тогда он, что запустил один из самых больших фейков? Навряд ли.
Но есть и те, кто делают это целенаправленно. Взгляните, например, на Брюса Уиллиса в рекламе «Мегафона».
Или обратите внимание на появившуюся этой весной в Twitter фотографию папы Римского Франциска в модном пуховике Moncler.
Оба этих изображения были сгенерированы с использованием нейросетей. Ведь фактически Брюс Уиллис участия в съемках «Мегафона» не принимал, за него это «сделал» искусственный интеллект. Программа, например, DeepFaceLab, обработала изображения актера (а их было, на минуточку, 34 тысячи) из фильмов «Крепкий орешек» и «Пятый элемент», чтобы создать правдоподобный видеоряд. Актеру же оставалось лишь принять солидный гонорар за использование своего лица в рекламе. В этом случае сотовый оператор и не скрывал «подделки». Напротив, компания целенаправленно заявила о собственной креативности. Поставленную задачу рекламный ролик выполнил сполна - внимания было привлечено даже больше, чем ожидалось.
Что же до фотографии понтифика в обновке от итальянского бренда, то изначально ее расценили как настоящую. Пользователи Twitter даже принялись хвалить священнослужителя за отменный вкус. Однако самым внимательным читателям удалось докопаться до истины: фото оказалось вновь сгенерированно нейросетью. На этот раз использовалась Midjourney v5. Искусственный интеллект прокололся в изображении пальцев. Левая рука, в которой Римский Фарнциско несет кофе, не обхватывает стаканчик, а буквально врастает в пластиковую крышечку.
Позже из-за путаницы, которая началась в соцсетях, под постами с фото папы стали появляться предупреждения, что изображение сгенерировала нейросеть. Нашлись и те, кто продолжил шутку, «переодев» в почти такой же пуховик и Авраама Линкольна.
Но любопытно другое - каждое из изображений выше, как и новость о пользе имбиря, можно отнести к фейкам: они вводят в заблуждение большое количество людей. Пусть в данном случае и без злого умысла. Так как же научиться вычислять фейки.
Общий кругозор и внимательность
Метод, который бы срабатывал безотказно во всех случаях, увы, ещё не изобрели. Даже нейросети порой не могут отличить фейковые изображения от настоящих. Так что замкнуть искусственный интеллект на самого себя тоже не получится. Поэтому часто определение фейков все еще напоминает незамысловатую детскую игру в карты «Верю-не верю». Вот лишь несколько инструментов, которые можно применять в зависимости от ситуации.
1. Обратитесь к первоисточнику
Самый надежный способ - попробовать отыскать первоисточник новости или фотографии. Тем более, что сделать это совсем не трудно: в случае с изображениями проверку за вас выполнят поисковые системы. Обратный поиск изображений есть в поисковиках Google, Bing, Яндекс. Все результаты можно просмотреть на одной странице.
2. Изучите визуально изображение
Это поможет вычислить фотографии, сгенерированные при помощи искусственного интеллекта. Нейросети тоже допускают ляпы. Промпт-инженеры сходятся во мнении, что их ахиллесова пята - это кисти рук.
Нейросеть запросто может выдать изображение с шестью пальцами, неправильными фалангами или как в случае с понтификом не суметь нарисовать руку в движении. ИИ все еще не осмысливает референсы с точки зрения анатомии и восприятия человека. Кроме того, на многих исходниках кисти рук показаны с разных ракурсов, так что видно разное количество пальцев — а когда предметов много, но неясного количества, машина выдаёт случайный результат.
В топ самых часто встречающихся ляпов нейросетей также попали:
лишние зубы, языки и челюсти;
рассеянный взгляд (взгляд людей на сгенерированных нейросетями изображениях часто не сфокусирован);
размытые детали, пятна и линии (вместо цветов — пятна, вместо птиц — пятна, вместо надписей — линии и пятна. Формы напоминают то, что должно быть изображено, но ничего в сущности разглядеть на таких картинках нельзя).
Любопытный способ определения фейковых фотографий людей предложили создатели платформы SEINT. Проанализировав огромное количество изображений, сгенерированных нейросетями, они заметили, что глаза и губы человека на них расположены всегда на одинаковом расстоянии и попадают в условные «круги». И абсолютно не важно будет это фото пятилетнего ребенка или пожилого человека.
Что же до реальных людей, то, увы (или к счастью!) мы не так совершенны: черты лица у всех сильно отличаются, и далеко не всегда они правильные. Хотя, может, идеал именно вы? Протестировать работу сервиса можно здесь,
3. Включите эрудицию
Ещё вариант - отнеситесь к тексту или изображению максимально критично. Иногда достаточно знаний школьной программы, чтобы заметить нестыковки. Что вас смущает на картинке ниже?
Перед нами - заледеневшая Венеция. Однако это маловероятно. Ведь Италия находится в зоне субтропического средиземноморского климата и даже зимой температура там редко опускается ниже нуля. Откуда же тогда взяться ледяной корке на каналах. Очевидно, что на фотографии кто-то просто решил объединить виды итальянского города и голубой лёд Байкала.
Или вот еще пример.
Используя обратный поиск по изображению, можно вычислить, что город на этой фотографии - Рио-де-Жанейро. Однако Луна не может так выглядеть ни в одной точке земли. Соответственно, и эта фотография - тоже фейк.
4. Оцените, может ли информация нести для кого-то выгоду
Ниже две новости. Не используя интернет, проверьте себя, какую из них вы бы расценили как фейк.
Упавшее в Ярославле дерево повредило три машины.
В бутилированной воде Dasani выявлено повышенное содержание бромата.
Правильно, фейк - это вторая новость. В 2017 году появились новости о проблемах с качеством воды Dasani. Компания-производитель организовала несколько независимых экспертиз и через суд доказала, что опубликованная информация - ложь. Увы, репутация бренда из-за этого все же сильно пострадала. По одной из версий, слухи были запущены в сеть компанией-конкурентом. Что же до новости про упавшее дерево, то в ее распространении нет заинтересованной стороны. Это не фейк, а реальный заголовок, скопированный с городского новостного сайта.
5. Разделяйте рабочие и личные каналы для получения информации
Согласно исследованию фактчекинговой платформы “Лапша медиа” наибольшее количество фейков распространяется в социальных сетях ВКонтакте, Одноклассники и Telegram. Практически половина всех фейковых сообщений в 2022 году была опубликована ВКонтакте (24%) и Одноклассниках (21%). Еще 20% в Telegram, 12% - в СМИ.
Вот и получается, что если разделить рабочии каналы с личными, то вас вряд ли собьет с толку очередная новость о магической силе имбиря. Ведь появится она, скорее всего, не в СМИ или почтовой рассылке, а в одном из сообществ или Telegram-канале.
Фейки в социальных сетях
Фейком в социальных сетях может быть не только контент, но и пользователь, и даже целое сообщество. Например, группа в VK, мимикрирующая под официальное сообщество известного бренда, или некий пользователь, выдающий себя за гуру фитнеса или звезду рока.
Герою произведения В. Пелевина «Любовь к трем Цукербринам» повезло еще меньше. Он несколько лет состоял в виртуальном браке с человеком, который использовал в качестве аватара фотографию Мэрилин Монро. Как оказалось, за изображением актрисы скрывался пожилой мужчина, еще и террорист. Хороший повод задуматься, а кто же на самом деле прячется за никами и аватарами, которые постоянно добавляются к вам в друзья.
Есть несколько проверенных способов не терять бдительность.
Обратите внимание на количество подписчиков сообщества или друзей у пользователя.
Фейковые сообщества в социальных сетях редко имеют большое количество подписчиков.
Проведите небольшой анализ списка подписчиков сообщества или контактов пользователя.
Потратьте пять минут на то, чтобы в случайном порядке зайти на страницы подписчиков сообщества или друзей пользователя. Посмотрите, как они их ведут, как часто публикуют посты, с какого устройства заходят в сеть.
Самый распространенный признак фейкового аккаунта – случайная картинка на месте аватара (например, милый котик). Если число подписчиков со зверюшками или известными людьми на аватарах слишком большое, то, скорее всего, вы имеете дело с фейковым пользователем, который «накрутил» свою аудиторию (искусственно увеличил её число, привлекая пассивных «ботов»).
Проанализируйте активность страницы.
Фейковую страницу можно определить по активности – мошенники не уделяют ее ведению должного внимания. Публикации редкие или, наоборот, слишком частые и случайные. Это могут быть репосты из кулинарных сообществ, публикации-конкурсы и многое другое, что вызовет у вас подозрение. Такие страницы редко размещают посты от своего имени.
Проверьте подлинность фотографий в личном аккаунте.
Скопируйте любую фотографию в подозрительном профиле и попробуйте найти ее в удобном поисковике, используя функцию «поиск по фото». В результате вы или увидите профиль проверяемого пользователя, или же исходные фото человека, чьи снимки оказались в руках мошенников.
Ознакомьтесь с контактной информацией на официальном сайте бренда.
Если сообщество компании выглядит подозрительно, проверьте раздел контактов на официальном сайте бренда.
Есть и специальные платформы, которые облегчат поиск ботов.
Cервис Twitter Audit поможет вам определить количество реальных и фейковых пользователей для любого аккаунта в сети Twitter.
https://memedia.ru/spec/antidogs.php позволяет проверить количество заблокированных пользователей в любой группе или паблике ВКонтакте. Чтобы воспользоваться сервисом, потребуется ввести URL группы в предложенное сайтом поле. Уже через несколько секунд сервис выдаст подробный отчет: определит как постоянно, так и временно заблокированных пользователей среди подписчиков проверяемого паблика.
И еще несколько слов
Резкий скачок распространения фейковой информации зафиксирован в 2021 году - в пандемийное время. Как отмечают СМИ количество неправдоподобных сообщений тогда выросло с 1,5 до 9 миллионов. Однако справедливости ради стоит заметить, что фейки были всегда. Ведь самая первая в истории новость, которая ввела в заблуждение большое количество людей, была опубликована еще несколько веков назад. Это статья во французской «Земледельческой газете» за 1776 году, в которой рассказывалось об открытии нового способа ловли диких уток при помощи желудей. Стоит ли писать, что никому из охотников описанный в газете трюк провернуть не удалось. По одной из многочисленных версий, после этого случая фейки в СМИ до последнего времени называли «газетными утками».
Благодарю за помощь в подготовке статьи @gwynbleiddy