27 June 2018

Сотрудники Amazon, Google и Microsoft протестуют против сотрудничества с военными и полицией

Artificial IntelligenceIT-companies
Работники Amazon, Google, Microsoft взбунтовались. Их возмутил факт сотрудничества с Петагоном, антииммиграционными службами и органами правопорядка, поэтому руководству техногигантов пришлось пойти на поводу у этических соображений. Это лишило компании жирных государственных контрактов.

Хабр — не место для политики, но место для обсуждения этичности тех или иных вопросов. Давайте разбираться, что во взглядах работодателей не понравилось сотрудником корпораций.



Microsoft, Saleforce и разлучение нелегальных мигрантов с детьми


В США полыхает скандал: общественность и СМИ критикует жёсткую политику администрации президента страны Дональда Трампа по отношению к мигрантам. Стратегия «нулевой толерантности» предусматривает назначение максимально возможных по закону ограничений и санкций, на которые не влияют какие-либо смягчающие обстоятельства. Власти США используют такую политику по отношению к незаконно попавшим в страну мигрантам и разлучают их с собственными детьми. Пока взрослые находятся в изоляторах, детей помещают в специальные детские лагеря. 20 июня под давлением правозащитников и журналистов Трамп всё-таки подписал указ о прекращении практики разлучения семей нелегальных иммигрантов.

Тем не менее до подписания указа, когда у родителей ещё отбирали детей, правозащитники действовали. На фоне скандала под раздачу попали несколько корпораций. Microsoft критиковализа сотрудничество с Иммиграционной и таможенной полицией США (ICE). Против компании выступили собственные же сотрудники.

Поводом послужило то, что компания в январе 2018 года сообщила о совместной работе с властями в области внедрения технологий распознавания лиц. Тогдк в пресс-релизе Microsoft утверждала, что “новая технология позволит применять сервисы облачной идентификации и доступа, обслуживая как сотрудников Иммиграционной и таможенной полиции США, так и граждан. Это поможет сотрудникам быстрее принимать решения. Azure Government поможет им использовать возможности глубинного обучения для улучшения технологии распознавания и идентификации лиц”.

В знак протеста более 300 сотрудников подписали открытое письмо, отказавшись быть соучастниками в разделении детей и их родителей. Позже глава Microsoft Сатья Наделла заявил, что сотрудничество касается только поддержки электронной почты, календаря и документооборота.

26 июня стало известно, что против своего работодателя по той же причине выступили сотрудники Salesforce.com, компании-разработчика одноимённой CRM-системы. 650 человек подписались под обращением к главе компании Марку Бениоффу с критикой контрактов с погранично-таможенной службой: «Учитывая бесчеловечное разлучение детей с родителями, которое сейчас происходят на границе, мы считаем, что наша основная ценность равенства находится под угрозой, и что Salesforce должна пересмотреть контракты со службой и высказаться против работы с ней». Служба использует продукт от Salesforce.com для найма сотрудников и другой работы, которая не обязательно прямо касается этой темы.

Из-за существующей проблемы активист по имени Sam Lavigne собрал на основе открытых в LinkedIn данных список информации о людях, работающих в ICE, и опубликовал его на Github, сообщив об этом на Medium. Оба ресурса удалили эти данные.

Amazon и полиция


Американский союз защиты гражданских свобод (ACLU) потребовал от Amazon прекращения работы над системами распознавания лиц. ACLU начал расследование после появления информации о том, что компания предлагает свою разработку Rekognition полиции и любым частным компаниям.

Технология позволяет определять, отслеживать и анализировать лица, а также определять, чем человек занят — ведёт ли автомобиль или играет в футбол. Всё происходит в реальном времени. В организации уверены, что эта технология повлияет на множество людей и позволит следить за ними, нарушая их права. С её помощью можно будет узнать, когда и к какому врачу пошёл человек, был ли он в церкви, участвовал ли в митинге.

Одна из причин, по которойнекоторые организации считают неприемлемым использовать для постоянной слежки за людьми ИИ, — это результаты испытаний, показывающих, что существующие системы чаще относят к преступникам людей с отличного от белого цветом кожи. По мнению ACLU, “люди должны иметь возможность просто гулять по улице, пока власти не следят за ними”.


Активность правозащитных организаций оказала влияние. Как и в случае Microsoft, против передачи технологии полиции высказались сотрудники Amazon. В открытом письме главе Amazon Джеффу Бозосу более они также припомнили, что в облаке Amazon Web Services арендует серверы компания Palantir, которая помогает Иммиграционной и таможенной полиции США. В дополнение к заморозке сотрудничества сотрудники призвали создать меры открытости, чтобы в будущем было понятно, какие правоохранительные органы пользуются сервисами Amazon.

Совместная работа Amazon и полиции действительно сворачивается. В Орландо одно из нескольких полицейских управлений, тестирующих систему Rekognition, не будет продлевать пилотный проект.

Основатель компании Kairos, занимающейся технологиями распознавания лиц, уверен, что в США такую систему нельзя вводить повсеместно. По его мнению, технология серьёзно повлияет на жизнь людей отдельных рас, а кроме этого, сам факт её работы будет вторжением в частную жизнь граждан. Он напоминает о складывающейся в Китае системе социального кредита. Такой же «рейтинг» в США может быть предвзятым, что приведёт к арестам невиновных и, возможно, к их убийствам сотрудниками правоохранительных органов: «В социальном климате, охваченном протестами и беспокойством по поводу непропорционального содержания в тюрьмах и неправомерных действий полиции, привлечение программного обеспечения, которое явно не готово к гражданскому использованию в правоохранительной деятельности, не сможет служить гражданам и лишь вызовет новые волнения».

7 принципов этики ИИ от Google


Google заключила контракт с Министерством обороны США по разработке алгоритмов компьютерного зрения в рамках Project Maven. Технология концентрируется на разработке машинного зрения с применением нейросетей, что позволит распознавать изображения с военных дронов для повышения эффективности аналитиков американской армии. Собственные сотрудники начали собирать подписи против разработки военных технологий и увольняться из компании.

Другая группа инженеров Google удивила своих менеджеров и просто отказалась работать над системой обеспечения безопасности с помощью «воздушного зазора». Разработка подобной системы позволила бы Google побороться за интересные государственные контракты: для получения сертификации для работы с чувствительной информацией спецслужб компании нужны физически изолированные системы. В облаках Amazon и Microsoft Azure подобные технологии уже есть. Хотя подобное важно в том числе и для финансовых организаций, программисты не были уверены, что разработка не предназначена для ведения войны, и бойкотировали проект.

Уступки руководства Google заключались в оглашении набора принципов в области разработки искусственного интеллекта, которые компания обещала придерживаться, а также списка технологий, которые неприемлемы для искусственного интеллекта Google:

  • Технологии, которые причиняют или могут причинить общий вред;
  • Оружие или другие технологии, основная цель или осуществление которых состоит в причинении или непосредственном облегчении вреда людям;
  • Технологии, которые собирают или используют информацию для наблюдения, нарушают международно признанные нормы;
  • Технологий, цель которых противоречит общепризнанным принципам международного права и прав человека.

Кроме того, Google покинет Project Maven после 2019 года, когда завершится контракт.

Технологии двойного назначения


Многие технологии XX века, доступные потребителям, были изначально разработаны в военных целях. Встречающийся на кухне сегодня тефлон в прошлом использовался в космических кораблях, сублимация продуктов развивалась благодаря необходимости кормить солдат, а спутниковую навигацию создавали для военных.

Понятие «технологии двойного назначения» появилось в 1980-х, и сейчас их экспорт регламентируется особым законодательством во многих странах. К такой продукции относят то, что применяется в гражданских целях, но может быть использована в военных. Робототехника, биотехнологии, материалы и способы их обработки, электроника, лазеры, навигация – разработки в этих и многих других направлениях ведутся в рамках государственных заказов, подстёгивая научно-технический прогресс. Как показывает история, иногда корпорации подвергаются критике со стороны общественности и собственных сотрудников, что заставляет их пересматривать позиции на тему работы с властями.

Позиция Amazon была озвучена в заявлении компании: «Качество жизни сильно ухудшится, если мы поставим новые технологии вне закона просто потому, что некоторые люди захотят их запрета. Представьте, что люди не смогут купить компьютер, потому что его можно использовать в незаконных целях?»

Главы некоторых компаний выступают с критикой политики «нулевой толерантности». Против неё высказался Тим Кук: «В Apple работают множество иммигрантов. В рамках программы DACA (Deferred Action for Childhood Arrivals, программа, защищающая от высылки из страны иммигрантов, попавших в США в детском возрасте) у нас работают 300 человек. Я выступаю за них».

Последние конфликты и даже забастовки сотрудников лишь отражают всё более сильную социальную тревогу от сотрудничества компаний-техногигантов и государственных организаций. Не только энтузиасты технологий, но и обычные люди в ужасе наблюдают, насколько хорошо развита инфраструктура наблюдения в Китае. Отличия в культуре Западной цивилизации заставляют вырабатывать нормы общественного контроля за распространением технологий слежки.
Only registered users can participate in poll. Log in, please.
Этично ли работать на правительство, полицию и армию?
34.99% Да, не надо останавливать прогресс 134
33.16% Да, кроме разработки технологий, предназначенных для убийства людей 127
31.85% Нет 122
383 users voted. 74 users abstained.
Tags:робототехникаатомная энергетикабеспилотные автомобилимашинное обучениекомпьютерное зрениеслежка за людьмираспознавание лиц
Hubs: Artificial Intelligence IT-companies
+14
12k 20
Comments 145
Popular right now
Специалист по машинному обучению (Machine Learning)
from 20,000 to 60,000 ₽БастионМоскваRemote job
IT–рекрутер
from 60,000 to 120,000 ₽HighTeamМоскваRemote job
Middle/Senior Software Engineer
from 100,000 ₽dicehub GmbH - GermanyRemote job
IT-recruiter / HR
from 50,000 to 70,000 ₽БастионМоскваRemote job
Senior ML Engineer
from 4,000 to 5,500 $HyprrRemote job
Top of the last 24 hours