Comments 165
Rekognition может позволить полиции в режиме реального времени обнаруживать, кто присоединился к протесту. Или кто является нелегальным иммигрантом. «Это представляет фатальную угрозу общинам», – организации пишут в своем письме к Amazon. – «Люди должны иметь возможность свободно ходить по улице, без страха быть наблюдаемыми государством».

пфф!
как будто этот же инструмент не сможет идентифицировать каждого полицейского в оцеплении?
или найти политика и его родственников (на которые записаны многочисленные подставные фирмы) в ресторане\магазине или просто на улице? СкайНьюс — так уже это продемонстрировала ;)
А если полицейский в оцеплении в маске? А вот демонстрантам часто запрещают носить маски, именно по этой причине.
Жесты, голос, если есть — база нужна более серьезная, но узнавать по походке эти штуки скоро тоже научатся. Лет через 10 начнут роботами демонстрации разгонять.

Последнее я б воспринял очень насторожено. Во-первых, прекрасно знаю качество этих автоматических алгоритмов, не думаю, что появится столь значительное исключение. Одно дело — отслеживание, а решения принимают люди, другое — полная автоматизация в таких сферах. Во-вторых, замена людей роботами в силовых ведомствах опасна вообще, ещё больше — в военных целях, тогда роботы могут выйти из-под контроля и фантастические сюжеты о восстании роботов могут стать реальностью.

Человек в маске для меня нервирующий фактор. А человек в маске кидающий камни в полицию или поджигающий банк — должен сидеть в тюрьме.

Увы и ах. Я не хочу демократию, я хочу порядок как в Германии, США или Китае
Технологии развиваются, и это никак не остановить. Надо учиться жить с ними. Вопрос не стоит о том, «дал ли бы я своё лицо государству в базу данных». Моё лицо там неизбежно появится, как и в сотне негосударственных баз. Общество глобальной слежки неизбежно. Вопрос в том, как бы успеть придумать вариант развития событий, чтобы эта слежка не превратилась в антиутопию.
Весь вопрос в том, будет ли эта возможность доступна только государству, или его оппонентам тоже?
Технологией владеет не государство, так что теоретически любой может приобрести её. Или, по крайней мере, воспроизвести.

Технология — половина дела. А база в 115 млн подписанных лиц принадлежит государству.
Другой момент, что, когда я беру фотографию неизвестного мне человека, загружаю в частный сервис и на выходе получаю ФИ, которую сеть дала мне, основываясь на этой базе. Откуда у сети доступ к этой базе? Она общедоступна? Если нет, то на каких основаниях выдается доступ?

Она общедоступна? Если нет, то на каких основаниях выдается доступ?

Такие вопросы сейчас мало кто задаёт. Когда находят сервис, позволяющий следить за любым человеком через мобильный, этот сервис просто извиняется за баг, «закрывает» его и продолжает работать дальше. Всем плевать, кроме горстки безопасников и параноиков.
geektimes.com/post/301019
Сервис, о котором идет речь, предоставляет услуги корпорациям. В первую очередь, он предназначен для мониторинга работы сотрудников предприятий.

Надо начать с того чтобы признать незаконным само рабство дающее право следить за сотрудниками. Потому что такая слежка может дойти до того, чтобы запретить сотрудникам искать другую работу, что есть фактическое рабство.
Это не рабство. Там длинная цепочка проблем, никакая из которых не решается правоохранительными органами, и поэтому решается на месте, порождая другие. Первопричина этой цепочки — информационный характер современной экономики, который ещё не научились адекватно регулировать.
А база в 115 млн подписанных лиц принадлежит государству.
А в Facebook уже больше двух миллиардов.
Технологии развиваются, и это никак не остановить.

Ну почему же никак, способ вполне себе есть, но он лишит комфорта всех, включая его применивших, поэтому его использовать наверно не будут. Но могут использовать с другими целями (в случае неожиданной эскалации межгосударственных разногласий), тогда ликвидация всех этих отвратительных технологий произойдёт побочным последствием.


слежка не превратилась в антиутопию.

Она не может в неё превратиться или не превратиться, она — антиутопия и есть, сама по себе.

Она не может в неё превратиться или не превратиться, она — антиутопия и есть, сама по себе.

Сдаётся мне, если бы наша беседа происходила в середине девятнадцатого века, вы бы так же высказались относительно дактилоскопии.
Дактилоскопией нельзя следить за всеми твоими перемещениями, моментально находить тебя в толпе и так далее.
И к firk тоже.
Дактилоскопия всё же немного другое. Тем более была тогда. Уверен, до изобретения компьютеров и создания баз отпечатков процессы съёмки/сверки отпечатков был трудозатратным действием. Можно было снять отпечатки и максимум сверить с одними или несколькими отпечатками подозреваемых.

Но сейчас технологии… Включить немного паранойи, и можно придумать разные (пусть и странные) варианты утопичности и для дактилоскопии. Например, рассылать рекламки в почтовые ящики, а через пару дней отправлять человека снять отпечатки с рекламы, которую выложили на почтовые ящики сверху (не забрали домой). По отпечаткам узнавать, кто эту рекламу не принял (дополнять их потребительский профит, что сейчас, по сути, является товаром). Ещё один странный вариант — сделать автоматизированный завод по вскрытию мешков мусора и снятию отпечатков пальцев с мусора. Цель та же — составление потребительских профилей… И вроде людям ничего плохого не будет с этого (напрямую, как минимум), но большинство людей, вроде как, будет против.

Опять же, проблема не в слежке напрямую. Камеры слежения в городе могут помочь найти преступника (грабителя, угонщика, насильника, ...), но они могут использоваться и во вред. Если определять все лица — получаем массовую слежку за перемещениями людей, составляем для каждого список контактов (с кем гулял, встречался, вёл деловые переговоры и так далее). Вот если бы можно было удостовериться, что данные с камер только сохраняются временно и только для разбора преступлений («снять личико» грабителя, например) — тогда мало кто был бы против.
Цитирую:
Следы одиночных пальцев рук практически невозможно идентифицировать с использованием картотечной системы регистрации. В результате этого десятипальцевая дактилоскопическая картотека практически не используется для проверки следов рук с мест преступлений (которые обычно являются одиночными).

Всё же по одному отпечатку невозможно было найти человека из неограниченного круга лиц, да и больших баз отпечатков тогда ещё не было.
Дали бы государству своё лицо в базу данных?
Оно уже там есть. Собственно, как и лица всех, у кого есть паспорт.
UFO landed and left these words here
Ещё лет 10 назад писали о программе, которая по фото ребенка прогнозировала лицо взрослого. Там, кажется, лицевые кости с возрастом растут по вполне определенным закономерностям.
Свежего и с подробностями мне, правда, на эту тему не попадалось.
Поразительно, невероятно низкие цены. Настолько низкие, что даже подозрительно. Сложно представить, как это изменит жизнь…
думается, с помощью низких цен привлекаются новые данные и система растёт.
Совсем скоро сервис станет вовсе бесплатным для частного использования. Система позволит заработать амазону нечто большее, чем жалкие деньги. Установленная номинальная плата за вход лишь один из дополнительных способов ограничения скорости роста и неконтролируемого развития… IMHO.

Забавнов видеть, как гуманитарии требуют от одной компании прекратить разработку технологии, над которой сейчас не работает только ленивый.

Все недостатки системы сводятся к человеческому фактору.

Чтобы, скажем, в режиме реального времени система могла на ухо прошептать полицейскому «Справа в черной куртке и белой кепке идет подозреваемый в трёх убийствах».
После чего уже сам полицейский будет решать, что с этим человеком делать — арестовывать на месте, следить за ним, запросить помощь из участка или игнорировать. Старая «дилемма кухонных ножей» — то, что нож может послужить орудием убийства, не означает, что их (ножи) следует изымать из обихода…

Расовый вопрос тоже решаем. Немного сместить акценты в тренировке нейросети в сторону этнотипов с худшим распознаванием — и качество распознавания быстро выровняется.
Зато как будут шикарно смотреться заголовки «Амазон тренирует нейросеть на чернокожих».
Ага, скажут представители общин, мы так и знали!!!
Проблема в том что через некоторое время системе будут доверять безоговорочно и полицейский станет лишь исполнительным звеном не подвергающим сомнению решение системы.
Может, тогда перестанут стрелять на каждое неловкое движение подозреваемого?
Ну так да, со временем система станет лучше. Меньшинства в любом случае будут недовольны, и это нормально. Главное чтобы на возражения не обращали внимания.
На этот случай есть распознавание по походке, которая тоже уникальна и подделать её крайне сложно (началь прихрамывать не канает).
… хакнуть систему распознавания походки и сделать умную стельку, которая будет через случайные интервалы времени изменять рельеф, чтобы можно было изобразить походку случайного человека…
Это называется «привлечение традиционных практик к решению актуальных проблем современности». :)

одно дело доказывать, — что на фото/видео не твое лицо, другое походка, тут можно уже извернуться, сломать/укоротить ноги, надеть корсет/горб итд.тп)
хотя, в принципе грим тоже никто не отменял

Эту бы энергию на построение общества с минимум агрессии и вражды.
Мне кажется, что человечество никогда не выйдет из парадигмы выстраивания подчиняющих иерархий и войны друг с другом. Пока в итоге не укокошит само себя.
Или пока человеческое общество не будет взято под контроль независимым Искином :-)

Ну так это как раз не проблема — экзоскелеты не за горами + то что сказал предыдущий оратор.Тем более какой нормальный человек, зная что его разыскивают будет выходить на улицу с камерами в одиночку и без транспорта?


Из-за таких систем преступники станут умнее и малочисленны… но при этом будут в частности гос.служащими или военными(корупцию некто не отменял)… а их распознавать не нужно… оних другие методы скрытия...


Так что система неплохая и довольно хорошая если её изпользок также как и в статье… но вот только она не сможет ловить крупных мафиози… а значит она будет помогат лечить лишь симптом, а не болезнь.

Может им стоит байкотировать Амазон, как магазин? Если вся страна перестанет им пользоваться, у Безоса будет меньше возможностей.
Однако, они лучше побунтуют, чем откажутся от привычных удобств…
байкотировать


В смысле байки про него травить всякие?
Ну откажутся они от удобств. И этот сервис создаст кто-то другой.

Подобные системы это неизбежность. А бунт может как раз привести к тому, что введут какие-то законодательные ограничения по использованию подобных систем. Соблюдение которых еще неизвестно как контролировать, но это уже хоть что-то.
байкотировать Амазон, как магазин?
типа, проезжать мимо на байке?
Вопрос тут в том, есть ли у человека право на анонимность. Если такого права нет, то почему бы полиции не отслеживать всех людей всё время? Такое будет возможно в недалёком будущем, даже если вы не носите с собой следящий за Вами смартфон.
У человека нет права на анонимность. Это также реально, как заставить ваших знакомых забыть вас. Странно ожидать, что Гугл будет знать то, что вам интересно, но и не знать то, что вам хотелось бы скрыть. Фарш невозможно провернуть назад. Электричество не запретить. Можно лишь научиться делать из фарша котлеты, а электричеством пользоваться безопасным образом и себе во благо.
Спасибо за ожидаемый ответ. Если слепо следовать абсолютам, то любую идею можно довести до абсурда. Имеет ли человек право на свободу? В абсолюте — нет, но это не значит, что раз абсолютной свободы не существует, то безралично, сидит человек в тюрьме или гуляет в лесу.

Так и с анонимностью. Если такое право есть, то человек может ожидать, что за мелкое правонарушение (перешёл дорогу в неположенном месте) его не будут искать в контр-террористической базе.
Должна быть изоляция — в общественных местах — анонимность не есть хорошо(так как само общество в целом против анонимности всех остальных, кроме себя = против анонимности).

Внутри частной собственности — наоборот — должна быть приватность и анонимность, где кто находится
в общественных местах — анонимность не есть хорошо

В общественных местах — вас каждая встречная собака знает?
Тут всё зависит от степени затворничества и размера города.

Если ты тусишь по чёрному, то тебя даже в Мск начнут узнавать тот тут, то там, ну а полиция найдёт если ей надо будет, очень легко.
А в более мелких городах и без этого каждый встречный поперечный будет знать.

И наоборот — если уехать куда нибудь в район севера Красноярского края, то узнавать никто не будет, кроме местной фауны.

По сути так всегда и было, просто рейтинги хранились и распространялись специальными людьми, память которых, заточилась на эту деятельность
Знает или не знает — это зависит от собаки, но уже не от меня. Если собака мной заинтересуется, то может спросить у других собак: «Кто это?» И я не смогу запретить им ответить на этот вопрос.
Ну, тем не менее, если мы говорим не о собаках, а о людях (например, ваших знакомых и некоем возможно подозрительном человеке, которых у них про вас спрашивает), то есть хотя бы некоторая вероятность, что ваши знакомые не будут просто так рассказывать про вас всё, что вспомнят, а для начала спросят «а какое ваше дело?», «а с какой целью интересуетесь?» или что-нибудь подобное. ну и, соответственно, не станут ничего рассказывать, не получив хоть сколько-то правдоподобного ответа, в идеале — позвонят вам и спросят, можно ли сказать незнакомцу некоторую информацию, и если да — что именно.
В случае крупного бизнеса, информация будет собираться вся, до которой дотянутся руки, а продаваться она будет всем желающим, кроме явно незаконных случаев. Потому что это бизнес, а в уставе компании написано, что главная цель — извлечение прибыли для владельцев и/или инвесторов.
Нужен новый GDRP, чтоб человек мог в любой соцсети или системе распознавания лиц поставить значок DoNotDisturb«Не распознавать» для всех, кроме органов. Все таки есть правовая разница между «Как тебя зовут?» и «гражданин, предъявите документы».
Это было бы хорошо. Поскольку ситуация, когда тебя распознают абсолютно все, включая и тех кто живёт криминалом — реально стрёмная.
Но и криминал при этом попадает в сильно некомфортные условия. Сегодня наличие фейса преступника на видеозаписи преступления не грозит ему реально ничем, потому что никто не хочет заморачиваться искать его по полицейской картотеке. Или уже вчера?
Ну извините, нельзя всё же делать общественные места настолько открытыми, что всю информацию о происходящим в них считать открытой и беспрепятственно собирать всю информацию и делать с ней что угодно. Одно дело по снимкам камер ловить преступников, другое — следить за перемещениями и контактами всех граждан, составлять их потребительские и личные профили. Или лично вы не против открыть для всего мира трекинг всех ваших перемещений за пределами домов и квартир?

Может, ограничения должны быть не только для граждан (я имею в виду ограничение анонимности), но и для бизнеса и/или государств?

Вообще так всегда человечество и работало. Сложность мегаполисов тут конечно сделала исключения, но только в мегаполисах.


А мои перемещения в рамках города итак доступны любому желающему, кто захочет лично проследить за мной, и так всегда и было опять таки в истории человечества.


В рамках мира — другой вопрос, но в рамках мира профили и не построишь так как государства собачатся друг с другом и очень неохотно дают свои данные

Личную слежку возможно заметить (особенно если есть подозрения о вероятности её существования) и пресечь. Это закрывается деньгами (нанять больше людей под слежку, чаще менять их одежду, образы, автомобили), и так же позволяет с помощью денег противодействовать (нанять людей, которые будут оберегать от слежки, следить за её наличием, как вариант — возможность зайти в туалет и в кабинке переодеться в оставленный там комплект одежды, после чего слежка пойдёт за актёром в гриме, который выйдет из соседней кабинки и будет гулять по городу, изображая вас). Ничего незаконного в этом вроде как нет?
А в случае камер, развешанных по городу, распознающих всё и складывающих информацию (для дальнейшего анализа и/или перепродажи) в нескольких дата-центрах, распределённых по миру… Жители уже ничего не могут сделать. Разве что проплатить компании за удаление данных о себе; но не гарантия, что данные реально будут удалены, а не будут всё равно перепроданы третьим лицам. Если информацию собирает государство — суть всё равно особо не меняется.

Это все касается только людей у которых много бабок — чтобы нанять все эти машины с водилами итд и то и там есть где развернуться, что показывала история.


Обычный человек избежать следки не может, а на работе он вообще может быть публичным лицом, и светит и ФИО и должность.


От камер страдают в основном чуваки типо того, который журналистку bbc хотел узнать получше — так как штрафы можно проверить, то можно увидеть что на нем их висит какое то безумное число, ну слуга народа, ясное дело.


В остальном ничего не меняется. Системе репутации куда больше лет, чем камерам, и ничего страшного не случилось.

Системе репутации куда больше лет, чем камерам, и ничего страшного не случилось.

Товарищ майор Не товарищ ты мне майор — залогиньтесь!
Всё же речь в вашем комментарии шла о сравнении новой слежки (камерами) со старой (личной), и мой коммент был о том, что изначально личную слежку (скажем, родственнику или соседу стало интересно, куда вы ходите по вечерам) можно заметить и пресечь (запутать следы). И что далее идёт война бюджетов — выигрывает тот, кто больше денег согласен потратить на содействие/противодействие слежке.

Мой комментарий сводился к следующему — слежку камерами избежать практически невозможно, и это куда большее нарушение прав человека. Личную слежку можно оправдать правом на получение информации (хотя тоже сомнительно) или, в случае слежки следователями, проведения следственных действий (поиск преступника). Слежка же камерами настолько всеобхватывающа и права стóльких людей нарушает, что её imho уже нельзя оправдать отдельными плюсами. Особенно если учесть, что туда рано или поздно подключатся (или они изначально и ведут эти разработки, хех) компании по оперированию «большими данными» (big data) ради сбора и обработки информации для дальнейшей её монетизации.
Англичанин, француз и русский обсуждают кто как следит за женой, пока сам в командировке.
Англичанин:
— У меня датчики давления на кровати и я знаю, когда к жене кто-то приходил.
Русский:
— А если они на полу?
— Не подумал…
Француз:
— У меня по всей квартире инфракрасные камеры поставлены и записывается всё 24/7
Русский:
— А если они пробки вывернут?
— Не учёл…
— А сам-то как за женой следишь? — насели на русского англичанин и француз.
— А я перед тем, как заходить домой, иду к соседке и говорю: «Привет, старая проститутка». «Это я-то старая проститутка!?! А вот твоя...» и узнаю о своей жене всё.

Даже от одного человека оторваться сложно, даже если подозреваешь, что тебя «ведут». А от «бабок» на лавочке вообще невозможно укрыться.
Чтобы оторваться от слежки надо хотя бы подозревать, что за тобой следят. А если подозревать в слежке всех — это уже паранойя.
Даже от одного человека оторваться сложно, даже если подозреваешь, что тебя «ведут». А от «бабок» на лавочке вообще невозможно укрыться.

Опять же, заметить слежку и оторваться тяжело только если она совершается кем-то за деньги, то есть с умыслом. Если условный знакомый лично следит за вторым условным знакомым — при наличии минимальной внимательности («что-то я часто стал его видеть в городе, куда не пойду») можно как минимум заподозрить, а заподозрив — оторваться от непрофессионала без проблем. «Шпион», от которого сложно оторваться — это уже за деньги. Которые кто-то кому-то должен целенаправленно нести. Предположим, ради слежки за мной (ха-ха).
А такая система, после внедрения, уже исключает лишние траты для слежки за отдельным человеком. Разве что траты на обслуживания системы в общем, но становится принципиально не важно, следить за сотней человек, тысячей или всем городом. Позволяет легко собирать данные и продавать их куда угодно. И в этом плане я очень против — не хочу быть товаром, не хочу, чтобы обо мне знали сильно больше, чем я готов сам рассказать.
Поиск преступников и прочие плюшки по безопасности — это хорошо, но хотелось бы верить, что система не будет использоваться во вред людям (а она будет). И все мои комментарии в ветке направлены на то, чтобы объяснить, что массовая слежка на улицах — это всё же в том числе и вред людям; аргумент вида «улица — общественное место, и там и так может следить кто угодно» для меня звучит примерно как «на улице можно нечаянно наступить на ржавый гвоздь и подхватить столбняк, поэтому давай мы тебе при выходе на улицу будем парой таких гвоздей в ноги тыкать». Суть в том, что никто не будет платить за слежку за каждым отдельным человеком, но только до тех пор, пока такая массовая слежка требует отдельного обученного шпиона (минимум одного) на каждого человека, за которым следят.
не хочу быть товаром, не хочу, чтобы обо мне знали сильно больше, чем я готов сам рассказать

Не хочу тебя расстраивать но ты уже товар и информацией о тебе торгуют все, кому не лень (у кого она уже есть). О тебе уже известно мноооого больше, чем ты сам рассказал. Не в то время ты родился, чтобы анонимность культивировать, надо было на пару веков раньше.
Не хочу тебя расстраивать но ты уже товар

I know. Sad, but true. Тем не менее, хочется, чтобы сбор этой инфы был как можно сложнее, ну и чтобы законы заставляли собирающих блюсти хотя бы частичку наших прав.
О тебе уже известно мноооого больше, чем ты сам рассказал. Не в то время ты родился, чтобы анонимность культивировать, надо было на пару веков раньше.

Ну, я в этой ветке немного не о том. Я просто говорю о том, что нельзя просто отмахнуться и сказать «всё ок». Не ок. Мы далеки от той утопии, где можно было бы собирать такую информацию не во вред людям, и получая только лишь пользу (лёгкие ловлю и распознавание преступников, например).

Опять же, я же ни к чему не призываю. И мнение особо не навязываю, не хотите — не соглашайтесь.
Пару веков раньше можно было быть товаром, который продавали-покупали сам, а не информацию о нём. Да и какая анонимность тогда была? Сейчас даже приедь в маленькое село, все всё про всех знают.

Один из принципов современного права — неотвратимость наказания.
И если эта система распознавания приучит людей не переходить дорогу на красный свет и мусорить на улицах — это будет очень заметное благо для общества.

Но всё же цели распознавания — не только ловля бандитов и наказание провинившихся. Немаловажные цели для разрабатывающих это всё включают:
  • присылать вам рекламные сообщения, если вы идёте возле проплатившего рекламу кафе, если известно, что вы давно на улице (гуляете, например) и за это время ещё ничего не ели;
  • сбор потребительских профилей;
  • оценка лояльности граждан;
  • сбор статистик всех возможных видов.

Ну и так далее. Молжете перечитать пару книг об антиутопиях, и вам наверняка придут в голову ещё варианты )
В теории, есть такая штука, как куки. И если я хожу на гугл, и он узнаёт и помнит меня по ним — это одно дело. Если я открываю его в приватной вкладке (примеры: не хочу забивать историю браузера одноразовым поиском, хочу посмотреть обезличенную выдачу по запросу) и мои обычные куки гугл не видит — я как бы предполагаю, что он не должен запоминать текущую инфу в мой основной профиль. Но он это делает, 99.999% — ведь и без кук есть 100500 разных других вариантов. Local storage, «flash cookies», ip-адрес (если он белый и он уже точно знает, что с этого адреса всегда только я), а ещё отпечаток браузера и/или системы по отрисовке графики в canvas/webgl… Как бы немного перебор, и его фактическое поведение «немного» отличается от ожидаемого.
Ага, а завтра всё это дело подпадёт под какую-нибудь там новую поправку к GDPR и оказывается, что при желании фарш прокрутить назад таки можно.
«право на анонимность» — это будет злоупотребляться в обратную сторону. Как вы думаете — кто первым будет прикрываться этим правом: студент Петя на демонстрации или секретный сотрудник и провокатор Михаил Иванович?
Право на анонимность мусульмане приколотили своим женщинам, заставив носить паранжу.
Также европейские женщины начала прошлого века ходили под вуалью (больше из кокетства, но все-таки).

Думаю, скоро закрытие лица станет мировым трендом.
А вот интересно — если женщина носит паранжу в России а в ответ на вопросы 'интересуюсь мусульманской культурой, собираюсь принимать ислам' (при этом в тех ситуациях когда именно надо паспорт показывать — и паспорт и лицо показывает).
Хотелось бы уточнить — что именно понимается под «правом на анонимность»?

Я умышленно написал без разъяснения термина, так как если это право определить вкратце, то это будет неправда. Но для Вас я попробую. Это значит, к примеру, что должны быть ограничения по слежке за людьми и данные должны храниться ограниченное количество времени. То есть, полиция должна не распознавать всех, кто зашёл в метро просто так, а только, если произошло серьёзное преступление. Если преступление не произошло, все видео удаляются по закону через неделю без анализа. Для компаний можно потребовать доступ к и удаление всей информации о человеке. И так далее.

Немного дополню своим мнением, надеюсь, буду в тему.
Информация по слежке должна храниться ограниченное время, плюс должна храниться неуничтожаемая информация о том, кто к этой информации запрашивал доступ (и получал эту информацию в итоге) и почему. И через какое-то время (может, в то время, когда уже информация будет удалена, или близко к этому) гражданин должен получать возможность увидеть, кто в его информацию лазил, и если не будет обоснования такого доступа — иметь возможность подать в суд и наказать того, кто следил незаконно или необосновано.
Пример — я прошёл по толпе на улице, и эту запись получил чиновник или полицейский. Через, скажем, два-три месяца (не раньше, чтобы преступники не могли знать, что их начали выслеживать) я вижу, что к этой информации кто-то имел доступ, и какая была причина. Если, скажем, через пять минут неподалёку было ограбление, и мимо меня прошёл тот, кто потом ограбил (и отслеживали его) — то всё ок, я сплю спокойно. Если окажется, что кому-то, у кого есть доступ к системе, просто было интересно, когда/где/с кем/какими маршрутами я гулял — я смогу подать в суд и наказать. Мало ли бывает случаев, когда решают «наказать» бывшего/бывшую жену/мужа/девушку/парня и так далее — и среди «имеющих доступ» такие случаи тоже могут иметь место. Нужно уметь пресекать.
Уверен, во всех случаях будут неведомые грабители, шастающие как раз рядом с вами.
С таким же успехом может оказаться, что метаинформация о доступе к информации — не такая неудаляемая, как того хотелось бы. Или «потеряется» метаинформация о куске видео, по которой за мной будут следить — «забудется» что там я мелькал (что лишит меня возможность проследить, не следили ли за мной в этот момент времени без причины, «от фонаря»). Да и давайте начнём с того, что ни одно государство никто и никогда не сможет заставить сделать такую систему, потому что та даёт «неудобную» для государства фичу следить за его работой и наказывать за косяки…
> Если вкратце, суть в том, что нейросети тренируются в основном на фото белых мужчин – просто из-за того, что их больше.
Есть и чисто техническая причина image
Ваш телефон — расист и подлежит изоляции от общества. А вам причитается штраф за оскорбление чувств афрочеловека.
UFO landed and left these words here
Какая странная постановка вопроса. Минимум у двух больших фирм есть такого рода разработки, значит, обратно в бутылку джинна не загнать. Вопрос только в том, кто будет пользоваться: все, кто сможет заплатить, разработчики или компетентные органы.

Мне кажется, что проблема не в определении лица на фота, а в доступности его в первую очередь коммерсам и полиции и прочим госслужбам. Мне кажется, дискомфорт можно значительно снять упростив сертификацию средств съёмки и идентификации, то есть с камерами ходят не только полицейские, а все, просто по желанию прицепив смартфон хлястиком, чтоб камера выглядывала. И точно так же все могут сообщить о преступлении (с предоставлением видео и результатов анализа, а также с указанием используемых инструментов; если те же или аналогичные используются той же полицией — предоставленное имеет ту же силу, что и у полиции), можно даже автоматом, если сделать сквозную связь и автоматическое распознавание преступлений. Это как минимум снимет проблемы с оговором и превышением пределов самообороны.
Ну и xkcd на тему
image
И точно так же все могут сообщить о преступлении (с предоставлением видео и результатов анализа, а также с указанием используемых инструментов; если те же или аналогичные используются той же полицией — предоставленное имеет ту же силу, что и у полиции), можно даже автоматом, если сделать сквозную связь и автоматическое распознавание преступлений.

Вы предлагаете неявно наделить огромнейшей исполнительной властью тех, кто разрабатывает или так или иначе имеет возможность повлиять на результат работы таких систем.

Вот то есть, немного утрируя — если вся полиция в США переходит на использование системы амазона, то полиция остаётся полицией на 70%, а на 30% полицией де-факто становится соответствующее подразделение амазона. В то время как де-юре это просто коммерческая контора.
Амазон играет роль очень большого телефонного справочника с фотографиями. Никаких полицейских функций он не выполняет.
Разумеется. Как и полицейская база преступников. База — это только база. Вопрос в том, кто и как её использует.
Амазонское распознавание лиц — это, как и выше, не только база, но и использующие её люди (и «использование» в данном случае имеет существенно более широкий контекст, чем в случае банальной БД).
1. Уже сейчас сходная ситуация.
2. Как именно может помешать амазоновец? максимум, выкинуть человека из группы вероятных.
3. Если перенести всё администрирование внутрь полиции, принципиально ничего не изменится — сможет вмешаться адмн в погонах.
3. Если перенести всё администрирование внутрь полиции, принципиально ничего не изменится — сможет вмешаться адмн в погонах.

Юридическая ответственность «админа в погонах» принципиально другая.
Мы же сейчас говорим про минимизацию возможного вреда в вакууме? Гражданского админа:
— проще поймать (заметить и заявить о действии)
— проще практически ему что-то предъявить (внешний контроль против внутреннего, профессиональная солидарность, etc)
— а ещё ему сложнее приказать, т.е. почти наверняка если админ что-то шаманит, это его личная заинтересованность.
Если «в вакууме», то все ваши пункты довольно сомнительны. Поймать — нисколько не проще в силу размытия ответственности, до тех пор, пока эта сфера деятельности не будет зарегулирована аналогично зарегулированности исполнительной власти, найти настоящих «виноватых» будет не проще, а сложнее.
Способность «предъявить» прямо связана с коррупционным фактором, если кому-то проще «предъявить», то на него проще и «надавить». Со всеми вытекающими.
Чувствую, мы останемся при своих. Мой опыт показывает, что риски коррупции, тоталитаризма и шпиономании ниже в моём случае, по крайней мере до страж-птицы. При «потере доверия» к компании, когда что-то есть, а крайнего не найти, можно как минимум уйти к другой.
У всех подобных систем есть один принципиально неустранимый недостаток — в систему можно внести любого неугодно человека, и пометить его как страшного преступника. Неугодного любому — от админа системы до государства. После чего человека либо посадят (да, вероятно, когда-нибудь разберутся), либо вообще линчуют, если там будет указано, что он злостный насильник котиков и есть на завтрак детей. После чего ничего уже не исправить.

И я бы требовал законодательного закрепления обязательных компенсаций за ложное срабатывание подобных систем — любых, от общегосударственных до магазинных. И за любое ложное срабатывание — от ареста до простого досмотра охранниками. Во-первых, зная месторасположение рук большинства программистов, а во-вторых, чтоб не было соблазнов грести всех, а потом «приносить извинения за доставленные неудобства». Причем размер компенсаций должен быть отнюдь не символическим. Без хотя бы такой ответственности можно очень скоро увидеть полярного лисца.
Без этой системы в тюрьмах сидит куча народу, осуждённых по показаниям «мужик в шапке». Время от времени дела пересматривают и с помощью анализа ДНК оказывается, что сидит человек уже 30 лет зря. А тоже ведь тоталитарная технология, как и распознавание лиц.
Вы смешиваете понятия. Система РАСПОЗНАВАНИЯ, не заменяет ни суд, ни базы разыскиваемых преступников. А эти базы и сейчас есть, американская федеральная, интерпола, других стран. И уже сейчас, чисто технически могут внести туда невиновного. Уже был скандал как человека не пускали в США, потому что случайно внесли в базу террористов.
Так что в худшем случае, полицейский задержит распознанного человека, начнут разбираться и отпустят. А тому кто внёс в базу по шапке надают, и уволят.
Ныне существующие базы создаются из людей, уже каким-то образом замешанных в преступлениях и тех, кто попал по ошибке, но их обычно меньше реальных преступников. Предлагаемая база гребет всех, причем рассматривая их как потенциальных преступников (я не могу исключить себя из базы, не совершая преступлений в данном случае, но могу — из ныне существующих списков подозреваемых)
О чём вы говорите. В статье речь идёт о системе распознавания. Какая «предлагаемая база». Кого рассматривают как потенциальных преступников?
Вот, обратите внимание на этот текст:
«У Орегона есть база данных с фотографиями всех пойманных преступников за последние 10 лет. Сейчас её используют в основном для поиска по именам, фамилиям и месту жительства. По лицам на глаз найти в ней кого-то почти нереально, особенно учитывая, что со временем люди выращивают бороды, делают новые прически и так далее. А вот нейросети с задачей справляются за несколько секунд»
Тоесть это выглядит как то что в сериалах показывают.
Нейросети, нейросети… Знал я одну нейросеть — она везде видела собак, даже там, где их нет. А если нейросеть начнет везде видеть преступников?
До тех пор, пока не ясно, что именно и как курят нейросети, и главное — пока нет очень суровой ответственности за ошибки подобного софта — я против. Цена ошибки в данном случае — не падение ворда, порча сэйвов в игрушке или висяк на телефоне. А видя, как этот самый софт пишут — нет, такое счастье мне не нужно.
UFO landed and left these words here
Я нашел 5 человек, у которых частично видны лица, и которые не нашлись системой на фото с рамками, а вы?
Так как это видео, на следующих кадрах они повернутся, и система их отрекогнизит.
И как же в 20 веке тоталитарным государствам удавалось держать всех под колпаком? Без всех этих систем. С одними и теми же технологиями — в одной стране свободно, в другой полицейский и чиновничьий беспредел. Может это не от технологий зависит?
Если нет камеры на полицейском, это только помогает им превышать полномочия. Но кому ещё это выгодно? Преступникам, которых задерживают или стреляют, а они потом — " мы ничего не делали."
«Представьте, что ваша жизнь — дорога, идущая через время и общество. По обе стороны тянутся заборы, увешанные знаками: „Посторонним вход запрещён“, „По газонам не ходить“, „Не убий“. Эти условия, ограничивающие ваше поведение, законные пределы приемлемых действий. между ограждениями вы можете бродить сколько душе угодно — но выйдете хотя бы за одно и рискуете испытать на себе всю тяжесть закона. Теперь представьте, что кто-то начинает эти заборы сдвигать ближе. Ваша реакция — даже то, заметите вы происходящее или нет, — целиком зависит от того, часто ли вам доводилось сходить с дороги прежде. Многие люди никогда не отклоняются от середины тропы; не будь заборов вообще, они бы и то не отклонялись. Они из тех, кому никогда не понять, с чего воют все эти радикалы и маргиналы; как ни крути, а ведь их-то жизнь ни капельки не изменилась. Им без разницы, где нахолятся заборы — у самых их плеч или далеко на горизонте. А вот для прочих из нас рано или поздно наступит момент, когда направишься к месту, где в прошлом можно было гулять без всяких ограничений, и внезапно наткнешься на забор. Это лишь вопрос времени.»
Питер Уоттс
Вот о чём никто не подумал в комментариях, так это об ошибке распознавания. Если ошибка в лучшем случае 4 из 300.000(как в тексте), это значит что точность на уровне сравнения отпечатков пальца, допустим 1 к 50.000. И чем больше база людей, тем чаще система будет ошибаться. При базе в 100 млн человек, лицо совпадёт уже 2 тысячами людей. Так что всё не так однозначно.
При базе в 100 млн человек, лицо совпадёт уже 2 тысячами людей.

То есть дрон с автоматической системой распознавания ликвидирует две тысячи непричастных человек, чтобы попытаться уничтожить одного террориста.
А какова вероятность ошибки первого и второго рода сейчас, когда полицейский должен распознать преступника по ориентировке, которую ему сообщили на инструктаже?
Полицейский не стреляет сразу в подозреваемого, а сначала уточняет его личность. И система автоматической ликвидации подозреваемых в терроризме — это по сути Страж-Птица, готовая уничтожать законопослушных граждан.
Человеку за проступок можно сделать выговор, оштрафовать или уволить. То есть он при принятии решения опирается ещё и на возможные риски.
У системы кредит доверия гораздо выше, плюс ко всему, оператор (полицейский) со временем может привыкнуть и начнёт полностью полагаться данным системы.
Именно поэтому полицейский предпочтет не узнать преступника, даже если заподозрит. И еще, система-то развивается!
Это если брать отдельный кадр. А если взять последовательность, где лицо будет зафиксировано в разных ракурсах, с разной мимикой — то вероятность сразу повышается.
Отличная система.
Я очень хочу знать, когда ко мне приходит чиновник, полицейский, сотрудник налоговой, другой контролирующей организации или скандальный клиент. Амазон делает мои мечты реальными.
Одни получат предложение скидки, например за оплату налом или не пробитый чек (хана идеи онлайн касс), а другие ничего не получат или пойдут на… под благовидным предлогом. Вполне возможно, что одна группа населения рискует испытать на себе судьбу автолюбителей, которых динамят с ОСАГО по причине «нет полисов», «не работает терминал», «кончились бланки», «введите код СМС, пришедший на древнеегипетском».
Отличная система!
Главное, чтобы теперь съёмку на улице не приравняли к использованию спецтехники.
Если предположить что эта система станет основой некоего глобального рейтинга, то выйдет что людям придется постоянно быть такими какими общество ожидает их увидеть. Ведь цена ошибки возрастет многократно. Если ты знаешь что за глупую шутку или импульсивный поступок тебе придется расплачиваться всю жизнь — не превратимся ли мы в людей постоянно контролирующих свое поведение?
В чем общество может и станет лучше, но разнообразия точно поубавится.
Ну и конечно же — не такой как все = плохой в глазах огромного количества людей.
Самое стрёмное, то что при отсутствии анонимности становится возможной неотвратимая расплата за политические взгляды, что автоматом превращает свободу и демократию — в филькину грамоту.

Это только если мы по умолчанию считаем, что за политические взгляды должна быть расплата (а это неправильно).

Расскажите это АНБ, которое, по свидетельству Сноудена, «на всякий случай» следило за людьми с чьи политические взгляды не совпадают с руководителями АНБ. Руководитель подобной организации имеет власть, и ничто не мешает ему её использовать так, как лично он понимает «благо общества», в том числе и считая «потенциальными преступниками» людей с иными политическими взглядами.
А кому интересны политические взгляды сами по себе? Если решите деятельно противостоять власти, то всяко засветитесь, а на этот случай решения отработаны ещё в конце XIX века.
Да, там у них не принято в толпу картечью стрелять. Впрочем, он и так неплохо справился, при широкой поддержке общественности.

С отказом в выдаче ОСАГО считаю вообще надо отзывать лицензии. У них есть вопросы к этому человеку? Пусть идут в суд! У них был суд, и они проиграли? Пусть идут, если хотят, в вышестоящую инстанцию. Они проиграли и там? Пусть заткнутся и платят деньги. И если гражданин придет на следующий год оформлять ОСАГО, он пришел не потому что "захотелось", а потому что он обязан оформить этот чертов полис.

Блин Хочу очки с дополненной реальностью. которые будут высвечивать ФИО всех встреченных мной людей у них над головами. А у знакомых еще и показывать цветом имени в каких отношениях вы состоите.
Дни рождения ещё (в том числе их детей/жён|мужей/...), а то с этим беда

Ага, особенно интересно будет если над головой проходящего мимо мужчины высветится — "любовник жены"...

Чем больше задач переложено на систему тем меньше в отношениях будет искренности. Это как поздравления с днём рождения от ботов банков. Сам факт, что собеседник заморочился чтобы узнать о вас информацию говорит о интересе. Эх, постепенно мир показанный в «Черном зеркале» становится обыденностью.
Не стоит. Послушайте «Песню о загубленной кукушке», там объяснено.
Классная система. Очень много вещей можно сделать лучше с ее помощью. И да, запрещать ее за то, что она полицейскому сообщит, что «вон там справа подозреваемый в трех убийствах» — можно ли придумать еще бОльший фарс? Ну и все темы с «ихтамнет» тоже очень хорошо бы раскрывались, что конечно же, очень многим не понравится…
Хм. Пожалуй, я как человек, регулярно продающий что-то на Авито, хочу такую систему, стоящую на камере дверного звонка. Чтобы ненароком в дом грабителя или полицейского не впустить.
*ждёт будущего с интересом*
Оно наступило, разве текущий оффер амазона в паре с камерой, реагирующей на движение не покрывает эту потребность?
Близко к тому.
Единственное что, я подозреваю, пока Амазон сможет определять только американских грабителей и полицейских — вряд ли у них данные по России есть.
*ушёл гуглить*
Гляньте, может, он парсит соцсети, или ему можно скормить свою базу.
*тоже ушёл гуглить*
В статье написано, что можно скормить свою базу.
Вот только я не знаю, где взять такую базу данных, о_О.
Спарсить и смержить самому ОК и ВК, пока можно в некоммерческих целях, плюс базу «их разыскивает» и сайт МВД (там тоже есть фотки, я так узнал наконец, как выглядит мой участковый). Да, потребуется некоторый труд, но вроде всего и сразу никто не обещал.
Про свою базу — надо уточнить, это для всех, и по какому тарифу.
Видимо цены S3 на хранение.
За анализ:
aws.amazon.com/ru/rekognition/pricing
Анализ видео:

0,10 USD за 1 минуту анализа архивного видео (с пропорциональным распределением для неполных минут).

0,12 USD за 1 минуту анализа потокового видео (с пропорциональным распределением для неполных минут).

Хранение метаданных лиц:

Стоимость хранения метаданных 1000 лиц составляет 0,01 USD в месяц. Плата за хранение взимается ежемесячно и пропорционально распределяется для неполных месяцев.

описание демки с распознованием лиц — medium.com/@davidwallin/amazon-rekognition-api-example-23dc8d215a45

туториал по системе распознавания лиц на картинках aws.amazon.com/ru/getting-started/tutorials/detect-analyze-compare-faces-rekognition

описание как полиция в США по сути делала FindFace свой — aws.amazon.com/ru/blogs/machine-learning/using-amazon-rekognition-to-identify-persons-of-interest-for-law-enforcement

описание как работать с видео aws.amazon.com/ru/blogs/aws/launch-welcoming-amazon-rekognition-video-service/?nc1=b_rp

Вообщем похоже что вопрос клонирования FindFace как минимум = вопрос придумать как это монетизировать + немного написания кода работы с AWS + парсера фоток с ВК/OK/FB.

Монетизировать просто — собрать базу, о которой комментарием выше писал Gryphon88 и продавать анализ изображения с камеры дверного звонка. Думаю, желающих воспользоваться будет изрядно, многие люди по работе принимают кучу левых людей у себя в квартире или маленьком офисе, и им было бы полезно знать, кто к ним пришёл.
Но сам я монетизировать, конечно же, не буду.
продавать анализ изображения с камеры дверного звонка

На видеовход дверного звонка подать изображение с удалённой камеры, и будет возможно отследить человека в удалённом месте (с возможными криминальными целями).
Минуй нас пуще всех печалей / И барский гнев, и барская любовь"

=)
Вот и тотальная слежка подоспела, фэйсбук следит, там хотя бы с любезно предоставленными данными, а тут уже со всех подряд источников.
Будьте внимательны при покупке доступа к AWS только из-за этого сервиса, на сегодняшний день, Amazon Rekognition работает не во всех регионах США.
Живя в нашем обществе, даже очень и очень осторожно, невозможно что-то не нарушить: закон, правила, конституцию, да любые ограничения. Суть нашей системы — накопление таких нарушений и в нужный момент надавить на жертву и принудить её к какому-то действию, угодному власти! Сейчас этим занимаются власть держащие, а смогут все! Сейчас ВЛАСТЬ в Укр и Росс, это ОПГ, которая уничтожает конкуренцию, что б никто ей не мешал заниматься своей деятельностью монопольно! ОПГ — Организованная Преступная Группировка. Мы граждане, можем только усложнить им этот процесс, или упростить, выбор за вами!
накопление таких нарушений и в нужный момент надавить на жертву и принудить её к какому-то действию, угодному власти! Сейчас этим занимаются власть держащие, а смогут все!

Если каждый человек сможет отследить ВСЕ действия ЛЮБОГО человека, вне зависимости от его социального статуса, должности, и прочие, то либо настанет эра тотального шантажа, либо тотальной гласности. В любом случае будет «взрыв» и переосмысление поведений. Эх, если бы можно было потребовать у руководителя отчёт, куда уходят деньги из бюджета страны…
Only those users with full accounts are able to leave comments. Log in, please.
Information
Founded

21 October 2010

Location

США

Employees

11–30 employees

Registered

17 August 2016