Как стать автором
Обновить

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги

Время на прочтение3 мин
Количество просмотров73K
Всего голосов 65: ↑63 и ↓2+61
Комментарии252

Комментарии 252

Поэтому я в шоке, с каким рвением банки заставляют клиентов «сдавать биометрию». Это фундаментально ненадежный способ идентификации (я имею в виду голос и фото), и таким он и останется.
А те люди, которые предлагают разрабатывать программы детектирования фейков — просто не понимают принципов машинного обучения. Это далеко не то же самое, что отличить отфотошопленные человеком фото — все гораздо сложнее, и в перспективе безнадежнее.
я в шоке, с каким рвением банки заставляют клиентов «сдавать биометрию»

Так они не для себя же, а для товарища майора. Двухходовочка-то довольно незамысловатая — базу лиц берём у банков, прикручиваем распознавание на камеры уличного наблюдения, и становимся на два шага ближе к 1984.
Двухходовочка-то довольно незамысловатая — базу лиц берём у банков, прикручиваем распознавание на камеры уличного наблюдения


Ваш голос можно снять с вашего телефона.
А фотография ваша уже есть, если у вас есть паспорт.

качество голоса в телефоне может быть не высоким, особенно после передачи по каналам связи с компрессией, а фотография в паспорте — всегда устаревшая
Гугл асистент и алиса передадут в хорошем качестве.
Они есть не у всех и у них пока нет камер.
Это скорее к скайпу, фейстайму и другим видеочатам.
Гугл же передаёт только своим, разве нет?
ну Гугл своему товарищу майору сдает, Алиса – своему
Голоса из алисы не так давно утекли — из компании, которая должна была обрабатывать нераспознанные фразы. В утекшем всё было анонимизировано. Скандала не получилось.
Если говорить про майоров — это очень очень вряд ли, ну просто 0 вероятность, потому что даже если это секретится, то через Nлет, где N всегда меньше 25, это рассекречивается и тогда больно ударит по репутации. Компании в Штатах живут больше 25 лет и репутация им нужна.
Второе — и даже от майоров что-то утекает в ту же викиликс. Т.е. существенно раньше 25лет это окажется у прессы — и тогда не отмоешься.
Нет, не думаю чтобы гугл или амазон могли бы пойти на такое.
Скорее всего вы правы. Мой комментарий чисто шуточный. Есть у меня один товарищ, который уверен, что его через телефон прослушивают – истории типа «вчера с другом говорили, что надо бы съездить в Барселону, просто говорили, не гуглили ничего, сегодня в ленте реклама авиабилетов в Барселону» слышал наверно каждый, но он говорит, что у него такое регулярно. Я отвечаю точно таким же аргументом — если вскроется, будет скандал, который обойдется дороже, чем потенциальная выручка от продажи более точной рекламы
Секундочку, это не одно и то же.
Всё аудио в skype, в facebook, и наверняка много где еще — согласно пользовательскому соглашению — подвергается токенизации и является источником для улучшения вашей контекстной рекламы. Это уже лет пять или даже больше — известный факт.
Но это вовсе не означает что вы разрешали им отправлять *ваши* разговоры куда либо еще вне компании. Ключевое слово — *ваши*.
Куда-либо еще они могут посылать только речевые команды и только в анонимизированном виде и только для улучшения сервиса по распознанию речи (сири, алекса, гугл хом и пр. — так делают)
Разговоры aka голосовые сообщения или звонки – допускаю. Но тут речь о том, что просто валяющийся где-то телефон что-то слушает и куда-то передает. Такое ни в каком лицензионном соглашении не спрячешь
конспирология — неубиваемое направление мыслей
Может и нет у вашего товарища паранойи:

Vsevo10d 12 июля 2018 в 20:21
«Не очень давно спорил с человеком, где покупать сахар. Он говорил, что в «Перекрестке», а я говорил, что там один псевдотростниковый и прочая демерара, а мне нужен обычный белый, но не бомж-категории короче суть в том, что несколько раз мы громко произнесли во время спора «сахар в Перекрестке».
Я приехал домой, и на компьютере у меня вылезла контекстная реклама «сахар в Перекрестке». После чего я немного постоял, посмотрел в окно, осознал, в какое время живу и смирился с этим.»


habr.com/ru/post/417015/#comment_18876537
Я тоже сталкивался с этим в явном виде. Около полугода назад шли с коллегой, я рассказывал ему о биткоине и принципах работы блокчейна. В кармане был смартфон на андроиде. Вечером в VK у меня реклама «Купи биткоины выгодно».
Я тоже сталкивался с этим в явном виде. Около полугода назад шли с коллегой, я рассказывал ему о биткоине и принципах работы блокчейна. В кармане был смартфон на андроиде. Вечером в VK у меня реклама «Купи биткоины выгодно».


Подтверждаю.
И сам сталкивался в другой тематике.
И знакомые замечали тоже в другой тематике.

Как раз именно после обсуждения какой-то темы «в присутствии смартфона», им начинала приходить реклама по этой теме.

Хотя они (да и я) ничего по теме не искали в интернете (тут то понятно как просекают — на 99% сайтов или Google Analytics или Yandex Metrics), а только говорили между собой.

Случаи, когда о чём-то говорили, но реклама не появилась, были учтены? Вирусы на телефоне есть? Вообще это недоработка смартфона. По хорошему при активации диктофона стоит засветить светодиод уведомлений или поставить отдельный светодиод. Можно сделать светодиод многоцветным. При камере/микрофоне один сигнал, при уведомлениях другой (приоритет ниже), при активной зарядке третий (приоритет ещё ниже, когда зарядка окончится, сигнал гаснет).
НЛО прилетело и опубликовало эту надпись здесь

Я на прошлой неделе коллеге вкратце описывал, как захватывать роль хозяина операций в домене, если умер сервер с ролью хозяина операций, а в воскресенье у нас сгорела стойка, в которой располагался и "хозяин операций" нашего домена… не совсем, конечно, контекстная реклама, но как тонко совпало!

Вопрос в том, сколько раз эта реклама сахара вылазила, но человек на нее не обращал внимания.

Вопрос в том, сколько раз эта реклама сахара вылазила, но человек на нее не обращал внимания.


Да, существует такое когнитивное искажение, когда человек начинает замечать некий объект взрывообразно резко. И человеку кажется, что этого объекта с недавних пор стало существенно больше вокруг этого человека. Хотя фактически — столько же.

Однако в случае именно сахара — навряд ли.
Это довольно специфеский товар, не нуждающийся в рекламе, как правило.

Так что специальная реклама сахара вряд ли будет в мейстриме для всех пользователей. Это же просто слив бюджета тогда.
Выгоднее показывать рекламу сахара именно интересующимся этой темой людям.
Однако в случае именно сахара — навряд ли.
Это довольно специфеский товар, не нуждающийся в рекламе, как правило.

С чего вы взяли, что он специфический именно для данного человека? Я вот не спорил ни разу ни с кем где покупать сахар. Даже не обсуждал, хз. Ну нужен сахар — идешь и покупаешь в ближайшем магазине. По-этому мне реклама сахара не вылазит. А человек вон спорит, обсуждает, ergo, интересуется этим вопросом, уделяет ему внимание. А дальше простая бигдата.

Однажды в маршрутке, маленькая девочка спросила у мамы «А по чем сахар в Перекрестке». Мама ничего не ответила, а только тяжело вздохнула и затем начала плакать, ведь в этот момент у нее в телефоне всплыла контекстная реклама «Сахар в Перекрестке».
С мамой плакала половина маршрутки.
а алиса с сири и алексой громко смеялись и тыкали в пассажиров нарисованными пальчиками
и у меня такое постоянно
точнее, не у меня, а у жены, и там яндекс, скорее всего
и не то чтобы прям «постоянно», но два инцидента с точным попаданием было
читайте подписываемые документы, наверняка в лицухах сказано что-то типа «всё сказанное вами может быть использовано для таргетирования демонстрируемой рекламы», это же не записывают и живые люди не слушают, поэтому можно
НЛО прилетело и опубликовало эту надпись здесь
речь выше —
Гугл асистент и алиса передадут в хорошем качестве.

легально они могут передать только в анонимизированном виде.
Если их, а скорее — майора, поймают с неанонимизированными разговорами и без санкции суда — будут многомиллионные иски.

но вы правы, к россии это не относится
Сбербанк СССР, кто постарше, помнит опупею с заморожеными вкладами. Сбербанк России, я не говорю, что это та же самая контора, просто название похожее. Работает, никаких репутационных проблем из-за названия не имеет…
НЛО прилетело и опубликовало эту надпись здесь
Вы хоть видели те микрофоны и камеры в банках, что бы говорить о качестве? На обычную вэбку все содрали в последний раз.

Какая разница?
По закону, в случае ведения видеофиксации,
должно быть уведомление.
Я таких в офисах банков (и прочих контор) не припоминаю. Т.е. фактически — они позволяют себе нарушать закон.
Виноваты они?
Они смогут "кивнуть" на того-же бывшего президента РФ и премьера,
которому посвящён фильм-расследование
(всё ещё есть на Ютубе).
Вы продолжаете нормально платить налоги?
Значит — финансируете мафию в законе.
Ничего личного, только по фактам.

Кстати, камеры постоянно работают (записывают)
и в банкоматах (есть в их составе).
Хотя, казалось бы, от этого терминала не надо ожидать подобного шпионажа.
Только факты.

Хотя, казалось бы, от этого терминала не надо ожидать подобного шпионажа.
Это очень наивное мнение либо человека очень далекого от ИТ, либо проспавшего последние лет 10. Камеры в банкоматах есть давно, желание банков получать и хранить как можно больше информации — тоже не сегодня появилось. Это настолько закономерное развитие событий что даже странно что заговорили о нем только сейчас.
Банкомат — не вариант. Часто время журнала банкомата и видеофиксатора не совпадает. Поэтому лицо к карте и к персоналии не привяжешь. И потом, возможна куча ситуаций, когда человек по чужой карте снимает. Отец сына попросил, жена — мужа. Или вообще украденной индивид пользуется
НЛО прилетело и опубликовало эту надпись здесь
:) ну да. только что это меняет?
— А что мешает найти разность в часах таймера банкомата и часов видеорегистратора?
Ответ: ничего.
Кроме того, если проводится не первая операция
(с использованием конкретной карты),
то есть возможность сопоставить как изображения из видеорегистраторов банкоматов,
так и с отдельной камерой, что обычно есть рядом с терминалом.
Да, формально — это нарушение, что картой пользуется не её законный владелец.
Но реально — если от владельца не поступает претензий
(по операциям с его картой), то и не появляется необходимости «копать глубже»,
где первым делом будет установлен тот факт, что картой пользуется не её законный владелец.
Мы говорим о разном. Выше шла речь о возможном использовании камеры банкомата для «съема» лиц владельцев. И вряд ли имелся ввиду ручной режим.

А насчет «что мешает», то разность в таймерах дает только приблизительную дельту времени где искать. Да и не всегда ее получается сразу вычленить, т.к. регистратор может глючить, вырубаться, может кончаться журнальная лента в банкомате (тогда надо запрашивать электронный журнал из процессинга и т.д.), может быть непропечатка на журнальной ленте и т.д. Т.е. каждый такой разбор — многовариантная штучная ручная операция. И никак не делающаяся на автомате. Не знаю как вы, а я имел неоднократный опыт поиска владельца карты по видеозаписи. На одного человека легко может уйти час, полтора. Так что камера банкомата явно не подходит для целей, о которых говорил c_kotik

Далее, камеры в банкоматах как правило стоят дешевенькие. Снимают с искажениями, ракурсы съемки зачастую изподвыподверта. Достаточно для того, чтоб человека опознать и не более.
Касательно формального нарушения: действительно, пока от владельца не поступит претензии абсолютно всем пофигу, кто фактически пользуется картой. Ладно банкоматы, там все понятно: есть карта и знаешь пинкод — деньги снимешь. Я кассирам неоднократно на обучении вдалбливал: если уж не в силах запомнить признаки поддельных карты, смотрите хотя бы ФИО на карте (ФИО мужское, платит женщина и наоборот), смотрите подпись (это когда еще была обязательна подпись плательщика на чеке) и т.д. Хватало на день-два. Потом люди «обнулялись» и принимали весь пластик подряд.

1) компрессия в GSM-сетях используется по умолчанию.
И: не loss-less комрюпрессию можно использовать как для голоса,
так и для изображений
(тот-же формат JPEG,
основанный на ДКП {дискретное косинусное преобразование} — вполне неплохо позволяет передавать полноцветные изображения).
Резюме: потери в сжатии — незначительные.


2) Устаревшая (фото в паспорте)?
Неужели вы не можете выглядеть моложе, чем на момент фотос'ёмки на паспорт?
По себе скажу:
если побреюсь (обрастаю — на вахте),
то сразу становлюсь (внешне) моложе.
И, как понимаю, этот эффект может заметить практически любой человек.
Затем: кто производит сравнение — человек
(есть то, что известно как человеческий фактор),
или автоматика (с конкретной версией ПО,
с заданными уставками допустимой невязки)?

Это же кучу обработки нужно делать. Тоже можно сказать о СОРМ. Проще заставить, с помощью закона это сделать, где все данные будут структурированы с ФИО и фото.
НЛО прилетело и опубликовало эту надпись здесь
Но тенденция к озабориванию всего имеется практически везде.

Почитайте новости из разных стран — практически везде идёт атака на право тайны переписки, частной жизни, анонимность, свободу слова и так далее… во имя всего хорошего. Только методы немного разные, где-то тащмайор открыто демонстрирует свой сапог, где-то чуть более прикрыто это делается.

В Германии, например, законы о приватности, вроде как, очень хорошие. Например, нельзя снимать человека на улице без его разрешения, если это не публичное мероприятие. Но почему-то это не мешает им (как и всем прочим) развешивать видеонаблюдение везде, которое снимает вполне себе без спроса.

В США, которые, как известно, «land of the free», на границе могут потребовать разблокировать любое цифровое устройство для досмотра, при этом данные с него сливают неведомо куда.

В Австралии правоохранительные органы могут законно требовать у компаний предоставлять им даже не просто «ключи шифрования», а и вовсе бэкдоры создавать.

Это всё относительно свеженькое…
В США, которые, как известно, «land of the free», на границе могут потребовать разблокировать любое цифровое устройство для досмотра, при этом данные с него сливают неведомо куда.

Насколько я понимаю это не относится к гражданам США, так что тут принцип не нарушается. Но со слежкой у них там тоже полный порядок, достаточно вспомнить сливы Сноудена. Просто конкретно этот пример не очень подходит.
Насколько мне известно, на границе для граждан США исключений нет. Так же могут досмотреть.

Так, например, считает их Department of Homeland Security:
All merchandise and persons crossing the border, both inbound and outbound, are subject to inspection by CBP pursuant to its authority to enforce immigration, customs, and other federal laws at the border. CBP’s search authority extends to all persons and merchandise, including electronic devices, crossing our nation’s borders.


А вот опыт, собственно, гражданина (более того — уроженца!) США:
Pomeroy, meanwhile, searched my laptop. He browsed my emails and my internet history. He looked through financial spreadsheets and property records and business correspondence. He was able to see all the same photos and videos as Moncivias and then some, including photos I thought I had deleted.


На самом деле, с гражданами США там сейчас мутно, так как закон не позволяет «запретить гражданину США въезд в США», то есть, вроде как, задерживать не имеют права. Но при этом имеют право обыскать :) Вроде как, там сейчас поднялось движение к исправлению этого бардака, но чем оно кончится, пока неизвестно. Вполне могут в итоге и окончательно узаконить обыск, не просто же так это стало там случаться.
А вы знаете страны в которых закон может запретиь ВЪЕЗД в страну ГРАЖДАНИНУ этой стран? ВЫЕЗД — сколько угодно…
Вопрос лишь в том, на каких условиях гражданина могут задержать при въезде.

То есть, одно дело, если в отношении гражданина уже есть решение суда, предписывающее его арест или он совершил преступление прямо при въезде (попытался ввезти наркотики, например). Совсем другое дело, если никаких оснований для задержания на границе нет, есть безусловное право на въезд (гражданство), но пограничный контроль задерживает всё равно. Например, чтобы порыться в ноутбуке.

Если в отношении неграждан это ещё можно понять (хочешь в гости? соблюдай любые требования хозяев), то с гражданами это уже как-то за гранью.
есть безусловное право на въезд (гражданство), но пограничный контроль задерживает всё равно. Например, чтобы порыться в ноутбуке.

Если в отношении неграждан это ещё можно понять (хочешь в гости? соблюдай любые требования хозяев), то с гражданами это уже как-то за гранью.


Почему за гранью?
Если ты даже и гражданин той старый — но сие вовсе не означает, что ты можешь делать всё, что в голову взбредет.
Тебя также проверяют на предмет ввоза наркотиков или детской порнухи в твоем ноутбуке (по наводке, конечно, а не всех подряд).
У гражданина есть гарантированное Конституцией право тайны переписки и частной жизни. США в этом смысле не отличаются от большинства стран.

Нет решения суда? Нет права влезать в тайну переписки и частную жизнь. Долгое время так и было. Сейчас ситуация изменилась.

Кстати, если я правильно помню, у их пограничной службы CBS полномочия действуют не только на КПП, а и в весьма приличном радиусе от границы (50 или 100 миль, что ли). Открываются широкие возможности «также проверить на предмет детской порнухи» кого угодно.

В общем, если вы пролистаете в начало ветки — ЧТД.
У гражданина есть гарантированное Конституцией право тайны переписки и частной жизни. США в этом смысле не отличаются от большинства стран.


Существование АНБ в США это как бы отрицает…

Однако что в отношении граждан что в отношении не-граждан — всех не перлюстрируют почем зря.

Не понятно зачем вы отделяете не-граждан.

Не понятно зачем вы отделяете не-граждан.


Я-то не отделяю, но вот Конституция США гарантирует права именно гражданам США, а остальным — уже на усмотрение остальных законов.

Что АНБ и прочие важные трехбуквенные организации немножко плюют на конституции своих же стран — о том и речь…
НЛО прилетело и опубликовало эту надпись здесь
Ха! расширю ваши горизонты, тем более что за примером далеко ходить не надо.

Не так давно Саакашвили (формально гражданин Украины) запретили въезд на Украину. Плюс еще какому-то протоиерею — гражданину Украины, имевшему якобы второе американское гражданство, — запретили въезд. Сейчас загуглил по быстрому, но не нашел его имени.
Не так давно Саакашвили (формально гражданин Украины) запретили въезд на Украину.


До этого его таки лишили гражданства.

Указе президента [Зеленского] №329/2019:

«Внести в Указ Президента Украины [Порошенко] от 26 июля 2017 года №196 „О прекращении гражданства Украины Бондаревой Т., Корнийчук А.А., Коротецкого Л.А. и других лиц“ изменение, исключив положение о потере Саакашвили Михаилом гражданства Украины»

Так там же вроде как сначала гражданства лишили, а потом уже запретили въезд. Впрочем, всё равно пример интересный.

НЛО прилетело и опубликовало эту надпись здесь
В Германии, там, где есть видеонаблюдение, всегда есть и табличка с предупреждением. Так что не надо врать, что «без спроса».
Поставить перед фактом — не значит получить разрешение. Особенно, если табличка сама находится в зоне наблюдения.

Опять таки что-то мне подсказывает, что для частных лиц с фотоаппаратом аналогичный фокус с плакатом «если вы меня видите, я могу вас снимать» не прокатит :)
Опять таки что-то мне подсказывает, что для частных лиц с фотоаппаратом аналогичный фокус с плакатом «если вы меня видите, я могу вас снимать» не прокатит :)

Ошибаетесь.
Если вы не являетесь основным объектом на фотографии — то фотографии с вашим изображением, сделанным в публичных местах, могут быть даже проданы без того, чтобы брать у вас разрешение. Например, для сайта новостей.
Это всё вполне по закону РФ.

В данной ветке комментариев обсуждаем не Россию.
В ФРГ очень похожая норма.
Поставить перед фактом, значит предупредить. А там, человек уже сам решает заходить на наблюдаемую территорию или нет. Ну а про то, где находится табличка, вы придумали. Она всегда стоит вне зоны камер. Другое дело, что жить в большом городе и стараться не попадать в зоны видеонаблюдения очень некомфортно и развивает паранойю.

Если вас сфотографировало частное лицо на улице, то вы имеете право потребовать стереть снимок. В реальности, конечно, вас примут за городского сумашедшего, так как никто в здравом уме таким не занимается.
На мой взгляд, табличка (как и любое предупреждение) имеет смысл лишь тогда, когда есть реальная возможность на него отреагировать. Когда речь идёт о большом городе, это практически нереально. Не ходить по улице, если там висят камеры? Не ездить по автодорогам, где есть контроль с фотофиксацией? Не пользоваться общественным транспортом?

При этом, если камеру повесит частное лицо, например, на ворота своего дома, и в поле зрения попадёт улица, то весьма высока вероятность, что его потребуют это устранить под угрозой ответственности.

В этом и есть проявление тащмайорства: что условному майору всегда можно чуть больше и ширше, чем опекаемым им гражданам. И есть тенденция к нарастанию этого явления в области инфотеха повсеместно. Я не говорю, что Германия здесь как-то особо отличилась, скорее наоборот.

Я думаю, мою мысль вы поняли. Насколько вы её принимаете — это уже ваше дело, думаю, на Хабре спорить об этом не стоит.
Жизнь в большом городе вообще, сопряжена с множеством ограничений и неудобств. И это одно из них.
Если вас сфотографировало частное лицо на улице, то вы имеете право потребовать стереть снимок.


Если ваше изображение — не крупным планом, то частное лицо имеет право вас послать. Вежливо, конечно. И даже потом продать эту фотографию.

И это всё по закону вполне. Тут в комментах упоминалось — это по закону в РФ и ФРГ по крайней мере.

НЛО прилетело и опубликовало эту надпись здесь
практически везде идёт атака на право тайны переписки, частной жизни, анонимность
Казус: и те-же криптовалюты (что признаются за нормальное платёжное средство в боле-менее развитых государствах)
— значительно осложняют доступ к информации о том, кто именно (и как) произвёл оплату.
Этот процесс тоже идёт со скрипом даже в развитых странах. В общем-то, на государственном уровне криптовалюты пока не признаются как полноценное платёжное средство в абсолютном большинстве стран.

И да, я думаю, что дело не только в волатильности и других особенностях криптовалют, а ещё и в том, что контроль за ними существенно затруднён.

Вообще, вспомнилась чья-то цитата: «если бы наличные изобрели в наше время, они бы стали вне закона».
У товарища майора давно уже есть много способов отслеживать того, кого требуется отследить, так что ещё один (к тому же весьма ненадежный) мало что меняет. Мы уже давно живем в 1984.
Вы говорите сейчас о точечной слежке, причём постфактум. А при наличии структурированной базы лиц и записей уличных камер станет возможной проследить за любым и в прошлом, просто натравив распознавание на старое видео.
Я говорю о получении информации в реальном времени и в массовом варианте. Здесь, на хабре было уже несколько статей на тему получения весьма подробной информации о людях с целью их коммерческого таргетирования. У товарища майора, я думаю, возможностей и вычислительных мощностей будет побольше.
Пример статьи: habr.com/ru/company/mosigra/blog/424951
Не думаю, что распознавание по лицам(со всеми недостатками и несовершенством самой технологии) может добавит к этому что-то существенное.
У товарища майора, я думаю, возможностей и вычислительных мощностей будет побольше.
Вот, кстати, совсем не факт. В каких-то странах — однозначно да (вроде США или Китая), в каких-то это будет ограничиваться уровнем сотрудников (как в РФ), в каких-то (я думаю что как минимум часть европейских стран сюда попадет) общество достаточно настороженно относится к подобным явлениям и выбить денег больше чем у коммерческих компаний может и не получиться.
Я не спорю с тенденциями, я только говорю что денег больше чем у коммерческих компаний может и не быть.
У товарища майора как это ни странно — нет ни мощностей ни людей, которые эти мощности могли бы эксплуатировать (не знаю к сожалению или к счастью).
Имея вроде бы доступ к массивам информации тащ майор ничего с ней сделать не может и единственная его надежда что за него это все сделают другие — операторы связи, гугл, яндекс или сбербанк, а он придет на это готовенькое, помашет корочкой и потребует результат (голосовые отпечатки, карты перемещений и тд).
Вопрос не в том, всесилен товарищ майор или жалок, а в том много ли ему добавит та самая база лиц из исходного комментария. Если с остальной информацией он сделать ничего не может, то и база с биометрическими данными ему будет, как корове седло.
Хах, нет, это только на словах всё так просто звучит;)
стало ясно, почему на АлиЭкпрессе так много реалистичных силиконовых маск лица
Просто в копилку: гуглим «угольков камера помогла в москве».
Поэтому я в шоке, с каким рвением банки заставляют клиентов «сдавать биометрию».
Надо же как-то качественную базу для генерации дипфейков собирать :bl:
Поэтому я в шоке, с каким рвением банки заставляют клиентов «сдавать биометрию». Это фундаментально ненадежный способ идентификации (я имею в виду голос и фото), и таким он и останется.


Это же в дополнение.
Чем больше различных способов — тем лучше.

Вы говорите, как все сотрудники банков. Но в новостях уже обещают выдачу денег в банкоматах только по биометрии:
Российские кредитные организации закупили более 10 тыс. банкоматов с функцией распознавания лиц, рассказал «Известиям» генеральный директор компании-производителя таких аппаратов VisionLabs Александр Ханин. Ожидается, что в них можно будет совершать операции без пластиковой карты: банкомат распознает человека по его внешности

На сайте ЕБС (Единой биометрической системы — bio.rt.ru/citizens) приведен перечень доступных дистанционных услуг. В их числе открытие счета, получение кредита. Для идентификации потребуется логин+пароль от Госуслуг, биометрические данные, и код подтверждения из СМС. Я не считаю, что сочетание трех ненадежных методов сделает итоговую систему надежной.
Для идентификации потребуется логин+пароль от Госуслуг, биометрические данные, и код подтверждения из СМС. Я не считаю, что сочетание трех ненадежных методов сделает итоговую систему надежной.


Продолжайте так считать.
Но в клиент-банк (онлайн-банк) нынче можно попасть еще проще, чем по упомянутой вами совакупности проверок.

Да, но с введением биометрии эта ситуация не станет лучше, потому что:
— на безопасность использования пароля или смартфона я могу как-то повлиять, на безопасность биометрии — вообще никак
— я ни разу не слышал про планы банков добавить проверку биометрии в банк-клиенты, потому что они и так считают их защищенными, несмотря на огромный масштаб хищений мошенниками.
— биометрия добавит новые возможности для мошенников, например, повесить кредит на людей, у которых нет счета с деньгами, чтобы их украсть
еще лучше будет повесить кредит на людей, у которых нет проблем с деньгами
Ну это смотря у кого украдут пароль от Госуслуг
Сомневаюсь что «такие» люди используют госуслуги.
По крайней мере, лично.
НЛО прилетело и опубликовало эту надпись здесь
Лучше для кого? Для мошенника так больше вероятности что его найдут и повесят за одно место. На условного Васю всем плевать, сколько уже историй когда мошенники берут на Васю в каком-нибудь МФО займ (есть МФО которые их автоматически через интернет выдают, достаточно данных паспорта и фото), а потом МФО трясет его с Васи несмотря на доказанный факт мошенничества. И с процентами. И КИ портит.
Своеобразное дополнение, вот допустим с остальными способами есть возможность поменять данные которые проверяются при аутентификации(технически можно например поменять паспорт) при их компрометации, а вот что делать в таком случае с биометрией?
Как с электронной подписью, идти и делать запретительное на список действий без личной явки.
НЛО прилетело и опубликовало эту надпись здесь

По-моему, основная проблема биометрии даже не в этом. А в том, что биометрия сама по себе не может выступать ключом. А значит, что любое устройство с проверкой биометрии должно содержать какое-то хранилище ключа, открываемое биометрическими данными по нечёткому совпадению. А значит, что этот ключ теоретически всегда можно извлечь. Такое вот security through obscurity by design.

Основная проблема биометрии в том, что она одноразовая. Если вас скомпрометировали, то это навсегда. Ненадежный пароль можно менять, ненадежное устройство для фактора владения — тоже, и то, и другое можно поменять на более надежные при необходимости. Но что делать с отпечатками пальцев? А их уже не первый год можно воссоздать по видео и скоро (если еще не) — просто по качественному селфи. Или с лицом, его спрятать везде уже невозможно для 99% населения.
И именно это основная проблема потому что неважно насколько мал шанс компрометации, если он выше 0, то с каждым годом количество людей у которых украли биометрию будет только расти. И в какой-то момент это количество достигнет предела при котором использование биометрии как ключа просто перестанет иметь смысл. Ненадежность биометрии сейчас только приближает этот момент, но принципиально ничего не меняет.
Она даже не одноразовая потому что не является тайной в принципе. Биометрия не может быть паролем, максимум это логин.
«В перспективе» все сообщения (даже комментарии на хабре) будут подписываться личным ключом, а хэш сообщения будет публиковаться в каком-нибудь блокчейне. Любое сообщение без хэша будет восприниматься как фэйк. Подпись будет генерироваться на аппаратном токене (вероятно, имплантированном в тело с защитой от вытаскивания).

А биометрия банков — это попытка бороться с мобильными троянами, перехватывающими коды в смс-ках.
Можно сразу подписывать хешем своего генома.
Точно стимулируем изучение генов, для копирования и доработки. Не только порно толкает прогресс.
НЛО прилетело и опубликовало эту надпись здесь

А результаты по модификации генома — для создания кошкодевочек! Для тех же целей.

Куплю кошкодевочку, буду вычесывать, гладить и играть. Обещаю чистый лоток и качественный кошачий корм :)
P.S. Обычная кошка уже есть — живет в комфорте и тепле!
прям по памяти набирая все знаки
Ага, и достаточно будет подобрать один волос, или каплю слюны с брошенной сигареты, чтобы подделать этот хэш.
Дак всякий киберпанк от пап Гибсона и Стирлинга прям наполнен тем, что богатые очень берегут свой геном. Поскольку очень много что можно сделать: от генетических следов преступления до генетических ложных детей-наследников, производства клонов, секс-игрушек и т.д.

Просто представьте, что секвенсоры стали быстрыми и дешовыми и что везде есть читалка генома. По сути — это уникальное длинное число.
Ну не напрямую. Во-первых, каждое деление клетки случайным образом меняет в среднем около 100 нуклеотидов. Во-вторых, перестановка частей цепочки ДНК — штатное действие при функционировании клетки. И ещё есть укорочение теломеров, вырезание некоторых частей при специализации, и т.п. Итого, после прочтения генома надо его ещё доработать, и тут получится весьма нечёткий поиск по образцам, и не одно число, пригодное к хэшированию, а пачка чисел для поиска ближайшего образца в многомерном пространстве.
Но суть проблемы это, да, не меняет.

Более того, не нужно секвенсоров: взяв образец чьей-то ДНК, например, со стакана, можно уже давно отработанными методами наклонировать её, а затем вливать результат в датчик. Чтобы защититься от такого, нужно, чтобы датчик не просто ловил ДНК, а определял присутствие живой работоспособной клетки.
НЛО прилетело и опубликовало эту надпись здесь
Живут. А как это влияет на то, что я говорил?
НЛО прилетело и опубликовало эту надпись здесь
Да, тогда тем более.
Это далеко не то же самое, что отличить отфотошопленные человеком фото — все гораздо сложнее

Наоборот — тут все гораздо проще. Человек может научиться скрываться от экспертизы, а сеть — нет.

Если экспертиза автоматическая (а другую широко использовать и не получится) — то как раз сети проще. Достаточно раздобыть экспертный алгоритм и включить его в обучение.

Если экспертиза автоматическая (а другую широко использовать и не получится)

Зачем автоматическая? Только ручная же и нужна.

Затем, что вы сейчас спорите вот с этим:


А те люди, которые предлагают разрабатывать программы детектирования фейков — просто не понимают принципов машинного обучения.
НЛО прилетело и опубликовало эту надпись здесь
я в шоке


вернитесь тогда в 50е, когда нет технологий и все на бумаге, которую тоже можно подделать и проверить двойник ли вы было сложно
Во-первых, в 50-е бумажные документы подделать было сложнее чем сейчас, а альтернатив им не было.
Во-вторых, я не против технологий в целом. Распознавание лица отлично подойдет для оплаты проезда в общественном транспорте, например, или для контроля доступа в корпоративный туалет. Да хоть для записи к врачу на госуслугах.
Но не для банковских услуге же.
НЛО прилетело и опубликовало эту надпись здесь
Их и сейчас бросают насколько я знаю. И не только в США.
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
Во-первых, в 50-е бумажные документы подделать было сложнее чем сейчас, а альтернатив им не было.


Заблуждаетесь.

Фильм «Поймай меня, если сможешь». Основано на реальных фактах из жизни Фрэнка Абигнейла

Он подделывал документы влет, начиная еще с 16-ти лет.
Это в 1960-е.

И вот только потом, когда он начал продавать механизмы защиты от подделок — тогда и стало значительно сложнее подделать документы.

А в 1950-е все ограничивалось только вашей наглостью.
просто если сделают дискриминатор для определения что видео фейк, то таким же образом этот дискриминатор вставляется в сеть, которая учится делать такие видео, чтобы дискриминатор принимал их за реальные.
Это фундаментально ненадежный способ идентификации

идентификация не должна быть супернадёжной, всегда можно переспросить
а вот аутентификацией биометрия служить не может
НЛО прилетело и опубликовало эту надпись здесь
Удобно.
Скоро будут так же президентов делать. 3D модель нарисовали, через нейросеть прогнали — роликов наделали — можно выборы делать. Все равно их «живьем» только по телевизору показывают. Накосячил такой «президент» — рисуем нового президента, его и выбирают. Ура технологиями, приближающих сплошную демократию:) красота
Ну вообще-то давно уже. Документальная повесть «Поколение П» опубликована ещё в девяностых прошлого века.
С языка снял… давно уже всё придумано
НЛО прилетело и опубликовало эту надпись здесь
А ещё например Ф. Дик «Предпоследняя правда».

Так уже потихоньку движется всё к тому, что всей жизнью будут так или иначе владеть цифровые технологии.


Те же концерты вокалоидов уже — условные 1500 строчек сишного кода собирают залы больше, чем вся российская телевизионная эстрада за последние 10 лет :-)

НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
Отнесем это в ту же коробку «идеальностей» как и хорошие пароли, заклеенная камера на ноуте и информационная гигиена в инете. Серьезно, call-back хорошая вещь, но пройдет еще немало времени пока он реально заработает
Крупный бизнес именно по «идеальностям» и работает. Никому не хочется терять денег на том, чего можно было бы легко избежать. Ещё пара таких случаев получат огласку — и введут.
Заклееная камера на ноуте вроде же устарела. Теперь в процессорах и не только есть модули со своей ОС, супер-привелегиями и выходом в инет. Такая фиговина запросто может принять особый UDP пакет и втихаря включить кейлоггер. Хотел было сказать, что поможет только не выходить в интернет совсем, но боюсь, что это тоже не поможет: у этого модуля может быть своя маленькая антенна которая неплохо работает от вышек сотовой связи.

Я не совсем понял, что у вас потерялось: тег сарказм или пруфы?

Наверное он про радиомодуль в soc решениях, даже если на плате не распаяно место для симки, на радиомодуль будет подаваться питание…

А еще железо вполне может не выключаться реально, только пользовательские приложения, работать в фоне когда это нужно центру (пусть радиомодуль работает всегда в режиме ожидания)…
Пфф. На нужный номер уже поставили переадресацию вызовов куда надо (т.е. на deepfake).
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
В последние дни меня просто заводнили одним и тем же спамом по телефону. Заранее записанный голос говорит: «Ало, здраствуйте. Ало, вы меня слышите?». Если пробурчать в трубку, начинается воспроизведение рекламного сообщения. Но злоумышленники могут записать ваш ответ «Да», и использовать его где-нибудь. А представьте, что вы поговорите с этим спамером достаточно длительное время. Он будет строить диалог так, чтобы вы проговаривали определенные фразы. Далее он обучит нейросеть на ваших фразах и классический развод «Мама, я попал в аварию, передай человеку тонну денег» выйдет на новый уровень.
Так что, соблюдайте цифровую гигиену, не нужно разговаривать со спамерами ни при каких обстоятельствах.
Когда ЯД делались еще на Тинькоффском пластике, нужно было для получения пин-кода позвонить в банк и сказать роботу «да» в ответ на прозвучавший пин-код. Это было лет 5 назад, но я уже напрягся от такого продвинутого способа. А «да» — это первое, что я говорю по телефону. Надо переучиваться говорить как Шелдон Купер «У аппарата».
А чем вас ещё советское «алло» не устраивает?
А чем вас ещё советское «алло» не устраивает?


Еще более древнее, чем советское:

-Алло, центральная! Это Камелот? (с) Марк Твен
То есть, немного измененное английское Hello, на самом деле является исконно советской разработкой?
То есть, немного измененное английское Hello, на самом деле является исконно советской разработкой?


«Томас Эдисон 15 августа 1877 года написал письмо президенту телеграфной компании Питтсбурга, в котором доказывал, что лучшим вариантом приветствия при общении по телефону является слово «hullo», являющееся видоизменённым английским приветствием «hello», которое в свою очередь, в русском языке трансформировалось в «алло». Александр Белл предлагал свой вариант — слово «ahoy», используемое при встрече кораблей» (с)

(hullo, ahoy — часом не вандализм в вики? )

Иногда люди боятся писать hello, потому что это слово содержит hell, и заменяют на hallo, hullo и т.д. Что-то вроде нашей дурацкой традиции писать "крайний" вместо "последний".

hellp me!
У этих англичан почему то всегда гласные «видоизменяются».
500 лет назад всё читалось практически так же, как писалось, потом наступил великий сдвиг гласных, затем ещё один, и всё стало через одно место.
Вот так же и здесь, побоялся написать HELLo, и написал hullo.
https://ru.wikipedia.org/wiki/Великий_сдвиг_гласных
НЛО прилетело и опубликовало эту надпись здесь
Или wei с китайским
или «ой-вей» с одесским
Таки шалом! =)
Oh, my
image

На незнакомые номера люблю отвечать так: "Говорите!", произношение делаем грубым голосом и с максимально требовательной интонацией.
У этого метода всего один отрицательный момент — если звонок был легитимный, то вызывающая сторона слегка конфузится.

Я точно так же делал но использовал "Разговаривайте!". Тоже неплохо заходило.

Можно более деликатное: «Слушаю вас».
Деликатное «Слушаю вас» делает меня внимательным слушателем и исполнителем чужой воли.
Если бы речь шла о звонке в компанию на рабочий телефон, я бы с вами согласился.
А для левых звонков на мой личный телефон лучше буду я диктовать условия.
Деликатное «Слушаю вас» делает меня внимательным слушателем и исполнителем чужой воли.


Нет. Магии не существует, простите.
Но существуют методики ведения диалогов.
Зачем нужна магия, когда есть вполне твердые факты из поведенческой теории.
«Повелеваю вам изречь цель установки контакта!» — примерно так?
Тогда уж лучше с «Представьтесь» начинать. А потом уточнять ИНН и паспортные данные. Как там у Жванецкого было в стиле спора:
попросить документ, сверить прописку, попросить характеристику с места работы, легко перейти на «ты», сказать: «А вот это не твоего собачего ума дело», и ваш партнер смягчится, как ошпаренный
Неделикатное «Слушаю Вас», сказанное таким тоном, как будто ждёшь отчёта/доклада, тоже конфузит собеседника и уже не делает Вас исполнителем его воли. Хотя если это шеф, то будет пора кофузиться самому.

Всегда отвечаю: "Внимательно!". При этом сам не имею понятия почему я так говорю и откуда я это взял)

В принципе, не столь важно каким словом начинать, важно как и что говорить, если диалог продолжается.
К примеру, на звонки с предложением юридических/банковских/телематических услуг, т.е. с целью рекламы, с места в карьер интересуюсь о наличии у позвонившего парашютных прыжков и далее по полной программе начинаю впаривать услуги своего аэроклуба. Заставляю позвонившего вести мою линию диалога, а не его.
Покупают?
А кто-нибудь знает программное решение, для передачи любых звуков в телефонный тракт, для Андроид?
Когда я пытался найти что-то подобное, то узнал что это запрешено аппаратно.
Вариант внешний аппаратный модуль, иммитирующий гарнитуру, подключенный по блютузу или стандартному миниджеку.
И еще один способ, драйвер виртуальной блютуз-гарнитуры, такой вариант возможен в принципе?

Вообще, было бы очень удобно, на звонок отвечать фразами из заранее подготовленной базы ответов.
Как интересно. Вот почему я не могу найти ни одного автоответчика/автосекретаря для телефона. Это заговор!
И тут вспоминаем многочисленные Инстаграммы, ВКонтакте и прочие социальные свалки, куда, не задумываясь, льют фото/видео от школьника до пенсионера. И конечно же, мамочки, которые вываливают тоннами фотки своих чад с возраста 0+. А ещё и так любимые всеми «войсы» в этих мессенжерах. В общем, недостатка в материале нет. Бери, обучай нейросетку и обчищай народ пачками.

Толи дело раньше, нужно ещё умудриться стащить альбом с фотками, что бы потом их отцифровать, а видео вообще не у каждого было
Да просто нужно, чтобы такие операции визировались директором не по телефону, а собственным private ключем, хранящимся на личной флешке без доступа к нему извне. Если часто будут подделывать, то к этому и придет.
«Я в отпуск, скопируйте этот закрытый ключ бухгалтерше. А, бухша тоже в отпуск. Тогда все ключи Васе. Да прям на личный ноут, раз он удалённо работает»
Значит нужно быть готовым стать пострадавшим.

А почему Вася не может своим ключом подписывать, если всем известно, что директор в отпуске, а его замещает Вася?

Ну, знаете там, всякие юридические доверенности, которые не один день и не по звонку делают, вот это всё. Уборщица тётя Зина хороший человек и тоже может всё подписать, только подпись её — бесполезная фитюлька.

Так ведь задача тут решается не юридическая, а организационная. Тут доверенность не нужна, достаточно приказа директора.

Подписывать платёжные документы для банка, договора с внешними контрагентами и прочие НЕ ВНУТРЕННИЕ документы, увы, можно только официально зарегистрированным людям.
То, что там внутри фирмы организационно договорились Вася и директор, никого не интересует и закрытыми ключами сроду не подписывается.

В данном случае этим ключом предлагалось подписывать приказ от директора компании директору филиала. Это именно что внутренний документ.

В каком таком случае? Если имеется в виду случай из поста, то там одна фирма переводила деньги другой фирме — поставщику, что должно быть подтверждено подписью лица, наделённого таким правом. Прочитайте внимательнее, пожалуйста.

Право подписи есть у директора филиала, иначе бы вся комбинация не имела смысла. Обсуждается вопрос о том, как он может надёжно проверить подлинность приказа от вышестоящего начальства.

Тут речь шла о другом. Можно сделать девайс (если боятся, что данные на телефоны могут быть скомпрометированы), который будет и с телефона давать возможность одобрять (с пином конечно). И опять же, тут не все платежи, естественно, должны одобряться. А, например, больше 100К$. И предполагается, что директор не будет передавать никому этот девайс.
Интересно, как дипфэйк отработает, если попросить звонящего надеть или снять кепку/наушники/очки, оглянуться?

Сегодня — плохо. А завтра ?

Интересно, как отреагирует ваш босс на это?
Сегодня там даже глаза не мигают.
НЛО прилетело и опубликовало эту надпись здесь
Мне кажется что решаться это должно все же несколько иными способами. Например как предложили выше — подписью приватным ключом. Переодевание или танцы на камеру всего лишь незначительно усложняют процесс подделки, но при этом создают иллюзию контроля. Зачем создавать такую иллюзию когда очевидно что подделка такого уровня — дело времени, мне совершенно непонятно.
В бизнесе — как раз нет проблем. Просто растерялись немного. Для видеоконференции — в кадре стоит дисплей на котором что-то типа QR-кода. Там либо ключ сессии, либо случайный адрес сайта авторизации на корпоративном сервере. Для телефона — некая коробочка которая попищав в трубку и послушав ответ выдаст ответ свой\чужой.
Скоро в крупных корпоративных сделках вернутся к встречам с глазу на глаз, перстням с личной печатью и честному слову купца. Потому что удаленные способы становятся еще менее надежными.
Вот для их передачи и понадобятся встречи с глазу на глаз и перстни с личным приватным ключом ;)
Да это же чувак просто тест Тьюринга на идентификацию не прошел =))
на самом деле какой-то хитрый злоумышленник просто использовал софт с AI-технологиями, чтобы в режиме реального времени заменять лицо и голос руководителя, и требовать, чтобы тот заплатил ему в течение часа

Из венгерского аккаунта их (€220 000) перевели в Мексику, а потом рассеяли по всему миру.


Нифига себе умельцы (простите, не удержался).
Честно говоря, мне кажется, что вся статья откровенный фейк.

Какие мощности нужно иметь, чтобы генерить видеокартинку в реальном времени, менять голос с акцентом (вы меня простите, но озвучка гуглов и яндексов вообще не похожа на человека) и все это ради 220 тыс евро электронных платежей, которых на самом деле отследить не так сложно. Такие спецы пропадают. Они бы в Гугле бы больше получали бы.

Тут еще конечно стоит отметить, что обычно в крупных конторах просто так невозможно перевести деньги на левый счет, потому что все контрагенты в базе. А прежде, чем они туда попадают, данные выверяются, включая внешние источники.
С мощностями сейчас проблем нет. После криптобума много не сильно старых GPU ферм пошли по всяким авито. По сути — сменил майнер на ПО нейронок и в путь! Утрирую конечно, но тем не менее…
2016:


С голосом тоже дело двигается



Neural Voice Cloning with a Few Samples:
research.baidu.com/Blog/index-view?id=81
arxiv.org/pdf/1802.06006.pdf
audiodemos.github.io

Я вполне себе представляю товарища, который, не ожидая такого подвоха, беседует с говорящей головой в скайпе. Добавьте сверху типичную для скайпа рассыпающуюся картинку и булькающие звуки, которые замечательно замаскируют артефакты.
Мне тоже кажется, что бухгалтер просто спер 200 тысяч евро, а потом (или заранее) придумал такую отмазу.
Не бухгалтер, а тот кому «звонили», управляющий директор — включил дурака и протолкнул невыгодную для компании сделку. Ведь на его совести остается распознавание фейка как босса.
Может и звонков никаких не было, а если они и были — то с анимированной фотографией босса и нарезкой аудио из его разговоров, для отвода глаз СБ компании :)
Нужен всего один креативный психолог.
Вариантов разговора не так уж и много, ситуацию в которой босс не может вести отвлеченные разговоры не так сложно придумать.

Так же рекомендую приложение https://apps.apple.com/cn/app/id1465199127 в котором уже любой желающий прямо на смартфоне может заменить свое лицо на чужом видео.

Всегда сбрасываю звонки вида «Соц опрос о качестве сотовой связи, займёт всего 10 минут».
За 10 минут можно с хорошим запасом сэмплов голоса снять.
НЛО прилетело и опубликовало эту надпись здесь
В публичных местах — шум, он запорет запись. К тому же, непросто привязать голос ко мне.
И перехватывать — сложно. Просто — когда тебе сами запись отдают по заготовленному алгоритму.
Иначе — дорого и надо быть очень нужным человеком.

Так-то, в любой конторе админ продаст записи с астериска :)
Ну что, для передачи видео и голоса нужно применять защищенные протоколы. Что мешает вводить персональные private ключи и подписывать каждый полный кадр видео таким ключем. А дальше — принимающая сторона, имея public ключ, сможет проверить отправителя.
Вещь совсем не хитрая и в бизнесе найдет применение.
Функционал с такими кючами можно встраивать в камеры так, чтобы private ключ был неизвлекаемым.
Не вижу проблем. Просто каждому человеку по достижению совершеннолетия имплантируем на лоб (ну или на запястье руки, если лоб жалко) ЖК дисплей, отображающий одноразовые криптокоды. И ничто не купить не продать нельзя без них было... ;-)
:-D
так вот как штрихкод нанесут на руку и лоб!
Сначала введут биометрию, потом начнется воровство всех денежных средств у всех, а значит придется поверх лба рисовать одноразовые пароли.
По ходу окончательно вызрел новый тренд, чуется мне основное бабло теперь в этой сфере будет крутиться, назад уже сдать нельзя, токо вперед всем будет надо и по быстрее и те кто в теме сечет, обаксуются по самое нехочу, крутяк.
НЛО прилетело и опубликовало эту надпись здесь

Да, типичная задача снаряд/броня. И причём автоматизированная на стороне нейросети: generative adversarial network так и устроена — внутри две нейронки, одна пытается создать фейк, вторая пытается разоблачить, и вместе они идут к совершенству. Поэтому первый комментатор и писал, что пытаться обнаружить фейки при помощи машинного обучения — плохая идея.

НЛО прилетело и опубликовало эту надпись здесь

Читал статью о том, как судэксперты в Англии с помощью анализа электрических шумов на записи определяли место записи и не подделка ли это. Исходили из факта, что неравномерности в электросети оставляют следы, которые можно найти на записи. И если сравнить с логами ближайшей подстанции, можно определить, действительно ли запись сделана в предполагаемом месте.


С одной стороны, появляется внешний источник случайности, который можно отслеживать на видео. Повторить его в реальном времени, скорей всего, будет затруднительно.
С другой стороны, статья была про анализ записей. Не факт, что получится провести такую проверку во время звонка.
Так как я не специалист, не могу оценить эффективность этого метода.


Читал здесь, на Хабре, но довольно давно. К сожалению, за 5 минут найти статью не смог.

НЛО прилетело и опубликовало эту надпись здесь
Может быть кто вспомнит. В далёком детстве (подозреваю — что конец восьмидесятых — начало девяностых) был такой фильм. По воспоминаниям — что-то европейское. Может поляки, может немцы, но не уверен.
Суть была в том, что судебную власть отдали компьютеру, и он вынес кому-то приговор за преступление, на основании улик — звукозаписи и отпечатки пальцев. И подозреваемому удалось доказать, что это уже не является надёжным идентификатором человека — продемонстрировал специальный диктофон, который на основании сэмплов подделывает голос человека, а также перчатки, подделывающие человеческие отпечатки.
Фильм называется «Идеальное преступление».
Да, почитал описание — очень похоже, что это тот самый фильм. Странно — был абсолютно уверен, что снято где-то не у нас. Спасибо! Давно искал.
Интересно когда появится хорошее приложение способноя читать тексты/книги с выражением приятным голосом...?
НЛО прилетело и опубликовало эту надпись здесь
Думаю, с развитием технологий и IRL будет такое возможно:
image

Кинематографично. Злоумышленник (и) очень хорошо знал(и) внутреннюю кухню конторы. Даже слишком хорошо. Скорее всего, не обошлось без внутреннего казачка. А то и один из героев (если не оба) сыграли эту сцену по переводу денег в другой карман.

Могли и по площадям бить, в смысле раздобыть базу видео для обучения и звонить всем подряд.

осталось раздобыть телефонов президентов разных африканских республик
И название им — КИБЕРПРАНКЕРЫ)))
Вообще странно, особенно для «энергетической компании», только если это не ларек по продаже энергетиков. В крупных компаниях есть бюджет, есть проверки контрагентов, есть проверки договоров. Просто так перевести крупную сумму денег не получиться пока несколько сотрудников из разных подразделений не подпишет заявку своими эцп, а СБ и юристы не проверят договор и контрагента.
Ну так крупная энергетическая, все, что до ляма евро — мелочи, переводимые по звонку с конференции…
Так не бывает.

У любой крупной компании деньги переводят по реквизитам в ERP, которые туда попадают по процедуре одобрения контрагента, включая какой-нибудь World-Check. Чем крупнее контора, тем сложнее что-то сделать по звонку, потому что прав банально нет на это.

Новость выглядит откровенным фейком, так-как люди с подобными навыками вряд ли бы разменивались на 220 тыс, когда могли стартап создать и освоить сотни миллионов.

Честно говоря, всю речь синтезированную, которую я слышал, назвать человеческой можно с большой натяжкой. А уж немецкий акцент… Потом, даже если представить генерацию видео в реальном времени, там нужна еще привязка звука к картинке, каждая буква-то по-разному произноситься, вся эта лицевая анимация. Короче, если бы ребята могли бы все это делать риал-тайм, то Голливуды и всякие игроделы бы их с руками оторвали. А пока это выглядит как и не волгу, а 10 рублей, и не в лотерею, а в карты, и не выиграл, а проиграл.
Да ладно вам, вы правда не видели на ютубе роликов вроде этого (довольно старого уже, кстати)? Lipsync нейросети давно освоили.
Именно так все и есть, вброс.
Теперь думайте кому выгоден и для чего.

Далеко не в каждой крупной компании есть ERP. Где-то просто не получилось формализовать процессы, где-то не удалось продавить саботаж сотрудников при внедрении, где-то ERP используется "для галочки"...

НЛО прилетело и опубликовало эту надпись здесь
Аплодирую стоя!!! Привет Грефу с его Сбербанком, с их любовью к новым технологиям. А также их тупоголовым программистам, которые (по-любому!) реализуют идентификацию по голосу так, что увести деньги со счета станет как два пальца об асфальт.
Нужно тогда про Грефа кинуть на ютюб видео приколы, где он в российских фильмах замещает Безрукова.
Может тогда до него дойдёт, если про него будут видео-мемы.
Вэбпанк который мы заслужили
ЯЯЯ! Я понял как отличить, знакомый говорит или фейк! Пусть ваш собеседник включит музыку (чем больше различных частот голоса в ней, тем лучше). Прога deepfakes начнёт превращать издаваемую мелодию в голос и мы сразу поймём, фейк это или нет. Работает данный метод только на разговор по телефону или трансляции! Далее необходимо будет понять, наложен звук или он идёт вместе с линией разговора. Ну тут уже необходимо подключить ИИ.
<сарказм> а еще под музыку пусть он напишет SUB /b/ и дату :)</сарказм>
Злоумышленник может миксовать музыку уже после дипфейка, прогоняя через фильтр низких и накинув легкую реверберацию небольшой комнаты.
По-настоящему, достаточно просто попросить сказать что-либо, что знаете только вы двое, но не возможный злоумышленник.
Что бы продать что то ненужно — нужно сначала купить что то не нужное. Или в нашем случае — что то секретное сначала нужно гарантированно передать без утечки. Что при условии удаленности собеседников становится проблематично.
Ну да, тем более накладывается специфика отношений из статьи:
— Валера, переведи 200 тыс. такому-то контрагенту!
— Иван Иванович, мне кажется вы это не вы, какие трусы носит ваша любовница?
Так что ли?
А ответом будет 42 (кто в теме, тот поймёт). Хотя при переводе крупных сумм просто введите какой либо уникальный вопрос-ответ, о котором будут знать только 2 человека (бабушкек уже вроде бы научили такому трюку, как задавать вопросы, ответы на которые обговорены с их любимым внучком заранее)
Я имею в виду не то что «какой вопрос придумать», а как в принципе такая постановка (не доверять распоряжениям руководства?) может возникнуть в отношениях «начальник — подчиненный». Мне-то это кажется нормальным, но я думаю в большинстве российский компаний такая инициатива обречена на смерть)
Компания, оформляющая сделки за секунды без проверок, сами обречены на смерть. И я больше скажу, в каждой стране будет первый инцидент, который убьёт одну (если кто-то включит мозги вовремя) компанию, и после заставит думать о противодействии данной «уязвимости» (пока гром не грянет мужик не перекрестится). В выигрыше будут оставаться не те компании, которые будут заключать сделки за секунды, а те, которые будут проверять эти сделки за секунды, в независимости от лиц-участников данной сделки.
В посте всё слишком утрировано.
Я как разработчик DeepFaceLab отрицаю, что любой школьник может сделать качественную подделку, собрав фотки своей подруги.
Во-первых надо одеться как подруга или найти очень похожую по телу и волосам знаменитость.
Во-вторых в реалтайме заменять, тем более качественно, еще нет таких общедоступных тулз. (Хотя я и планирую такую сделать)

В общем, чтобы сделать качественную замену для кражи из компании, нужны не только специалисты в машинлернинге, но и того кто работает в целевой компании и знает как внутри обстоят дела, кто как выглядит итд, а это уже социальная инженерия.
Так что работу провернули они довольно масштабную, за что и получили достойную оплату.

Это технологии, они так и развиваются, не нужно этого бояться.

В общем
я вижу только 1 закономерный конец для этой войны, если победят фейки:
1) политикам нужно перестать врать вообще и заводить свой канал, чтобы когда появлялось фейк видео с ними, все понимали что это бред, т.к. все знают что В.В.Лупин всегда выполняет свои обещания. Хотя это конечно про демократию, чего России пока не грозит.

2) финансы должны переходить на блокчейн
В бизнесе — как раз нет проблем. Просто растерялись немного. Для видеоконференции — в кадре стоит дисплей на котором что-то типа QR-кода. Там одноразовый либо ключ сессии, либо случайный адрес сайта авторизации на корпоративном сервере. Для телефона — некая коробочка которая попищав в трубку и послушав ответ выдаст ответ свой\чужой.
Переработают технологию открытого ключа для аудио-видео восприятия.
А вот новости…
НЛО прилетело и опубликовало эту надпись здесь
Меня одного смущает история опубликованная в Wall Street Journal?
1) Ладно менеддер повелся на голос боса, но его не сметил левый номер с которого был осуществлен звонок? (возможно бос это как то обьяснил в разговоре, возмодно звонок был на офисный стационарный телефон) но подробностей освещающих это — нет.

2) Куда были переведены деньги? Это же был банковский перевод. Не биткоины, не куда-то на деревню дедужке а на какое-то конкретное физичиское или юредическое лицо. Это же банковский перевод, найти получателя платежа должно быть доволно просто. Конечно можно замести следы и тут (но не так просто, насколько я знаю). Но опять же где подробности?

3) Не сильный аргумент, но в последнее время адекватные банки (и не адекватные тоже) не переводят просто так даже маленькие суммы, просят как минимум договор.

4) Банковкий номер и данные, необходимые для совершения перевода довольно большие. Продиктовать их по телефону? Наприме мой бос сказал бы да ну нафиг, сейчас отправлю в мессенжер, на почту и т.д. И дел не в том что лень и долго, а бонально можно ошибиться и деньги уйдут не туда или не уйдут. И тут сам сотрудник может вполне адекватно попросить отправить инвойс с реквизитами на почту.

Так вот описанный случай, в последнее время, мусолиться налево и на право. Название статьи "… для обмана компаниЙ" — а в примере всего 1 компания и 1 обман. Сколько еще было публикаций и тут на хабре и в обычных сми.

А меня все не покидает мысль о том, что изначальный случай или фейк или разыгранный спектатль, а кол-во шума, вокруг этого случая, только убеждает меня в этом.

P.S. Это сугубо мое ИМХО. Я не сторонник теорий заговора, просто в очередной раз наткнувшись на этот случай — выскозал свое мнение, может у кого-то сложилось подобное впечатление?
Куда были переведены деньги? Это же был банковский перевод. Не биткоины, не куда-то на деревню дедужке а на какое-то конкретное физичиское или юредическое лицо. Это же банковский перевод, найти получателя платежа должно быть доволно просто. Конечно можно замести следы и тут (но не так просто, насколько я знаю).

В другую страну же.
Пока интернациональная машина правосудия раскрутится…
А там уже все в обналичку ушло — и ищи-свищи.
Возможно Вы не совсем правильно поняли. Судя из статьи, «босс» приказал как можно быстрее имплементировать не очень выгодную сделку, которая была в замороженном статусе. В результате чего фирма потеряла деньги.
Facebook и Microsoft прям молодцы (странно что гугл тупит). Имея качественную распознавалку фейков, можно же использовать её для обучения сети генерирующей эти самые фейки. ;-)
Судя по описанию конкурса, они сначала просят написать «сеть генерирующей эти самые фейки», а потом уже распознавалку. Судя по всему, часть задания по распознавалку чисто для соблюдения приличий.

Но вообще, мелкие преступления это ерунда, вот сколько заплатит, например, Голивуд и ему подобные компаниии за возможность создавать фильмы вообще не платя зарплату актерам или взять умерших или давно состарившихся культовых актеров и их снова использовать, это же миллиардный рынок. Опять-таки, есть еще реклама и порно.
Голивуд и ему подобные компаниии за возможность создавать фильмы вообще не платя зарплату актерам

Актерам будут платить столько же, сколько сейчас. Просто теперь актерам не нужно будет работать — станут брать деньги просто за право на использование своего лица.

По данным Wall Street Journal, в марте этого года управляющий директор британской энергетической компании был ограблен на €220 000 (около $240 000). Он отправил эти деньги фирме-поставщику из Венгрии, потому что его босс, глава материнской фирмы в Германии, несколько раз подтвердил ему такую инструкцию. Но на самом деле какой-то хитрый злоумышленник просто использовал софт с AI-технологиями, чтобы в режиме реального времени заменять лицо и голос руководителя, и требовать, чтобы тот заплатил ему в течение часа.

Подчеркнутое показалось мне сомнительным, и я заглянул в оригинал:
Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case

Criminals used artificial intelligence-based software to impersonate a chief executive’s voice and demand a fraudulent transfer of €220,000 ($243,000) in March in what cybercrime experts described as an unusual case of artificial intelligence being used in hacking.

The CEO of a U.K.-based energy firm thought he was speaking on the phone with his boss, the chief executive of the firm’s German parent company, who asked him to send the funds to a Hungarian supplier. The caller said the request was urgent, directing the executive to pay within an hour, according to the company’s insurance firm, Euler Hermes Group SA.

<...>

<...> Whoever was behind this incident appears to have used AI-based software to successfully mimic the German executive’s voice by phone. The U.K. CEO recognized his boss’ slight German accent and the melody of his voice on the phone, said Rüdiger Kirsch, a fraud expert at Euler Hermes, a subsidiary of Munich-based financial services company Allianz SE.

Итак, если верить статье на сайте WSJ, злоумышленникам удалось подделать голос при телефонном разговоре. Подделка изображения лица, да еще и в реальном времени, в оригинале не упоминается.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий