«Бойтесь алгоритмов, которые управляют вашей жизнью»

перевод
alizar 22 августа 2011 в 22:23 2k
Оригинал: New Scientist
Перевод интервью с Кевином Слэвином (Kevin Slavin), разработчиком игр из Нью-Йорка, сооснователем компании Area/Code (теперь Zynga NY). Он ведёт курс компьютинга и дизайна в Нью-Йоркском университете, а в июле прочитал лекцию на конференции TED на тему алгоритмизации жизни (видеозапись лекции). Интервью опубликовано в журнале New Scientist (выпуск 2826 от 22.08.2011).

Вы заявляете, что нашей жизнью управляют алгоритмы. Каким образом?
Просто говоря, алгоритм — это набор инструкций, которые компьютер использует для принятия решения. Это как невидимые правила, которые описывают почти всё происходящее вокруг. Цены на товары в магазине, стоимость фильмов в прокате, облик вашего автомобиля — всё это можно отследить вплоть до исходного алгоритма. Семьдесят процентов транзакций на американском фондовом рынке алгоритмизировано, то есть выполняется автоматически компьютерными алгоритмами.

Почему нас должно это беспокоить?
Опасное свойство алгоритмов — в их математической истинности, из-за которой возникает ощущение, что алгоритмы нейтральны, но ведь у каждого алгоритма есть автор. Например, поисковый движок Google полностью основан на изысканной математике, но его алгоритмы, как и все другие алгоритмы, базируются на определённой идее — в данном случае, идея состоит в том, что ценность страницы повышается, если другие страницы на неё ссылаются. У каждого алгоритма есть своя точка зрения, но зачастую мы не знаем её, или даже не подозреваем о существовании алгоритма.

Вы верите, что алгоритмы начинают формировать нашу культуру. Как это происходит?
Возьмите сервис онлайнового проката фильмов Netflix, которым пользуется 20 миллионов человек. Для 60% всех фильмов, которые взяли в прокат, решение было принято по подсказке системы рекомендаций Netflix. Она работает на основе алгоритма под названием Pragmatic Chaos, который учитывает ваши вкусы и ваши оценки другим фильмам. Алгоритм копирует модель человеческого поведения из реального мира и кодирует её для автоматического использования в онлайновой системе.

Опасность в том, что такой подход может привести к созданию монокультуры. Настоящая культура не работает таким способом, она намного менее предсказуема. Например, есть фильм «Наполеон Динамит», который всегда «ломает» алгоритм Netflix: люди, которым фильм должен понравиться, ненавидят его, и наоборот — кто на самом деле должен фильм ненавидеть, ставят ему высшие оценки.

Почему нас должно так сильно волновать влияние алгоритмов на культуру?
Если вы знаете об участии алгоритмов, то можете изменить своё поведение. Если вы знаете, что бóльшая часть вашего «выбора» на Netflix основано на очень специфической модели человеческого мозга, которая может не соответствовать реальности, может быть, вы начнёте спрашивать своих друзей, что они рекомендуют — как мы и привыкли делать раньше.

Важно также понимать, как алгоритмы определяют информацию, поступающую в наш мозг. В США ведётся тихая война между Google и компанией под названием Demand Media, которая генерирует оптимизированный контент для поисковой системы. Как только Google меняет свой алгоритм, выдача Demand Media становится бесполезной до тех пор, пока они не проанализируют изменения в алгоритме Google и не скорректируют свой конвейер-генератор статей.

Раньше новости писали для людей — сейчас их пишут для машин. Представьте, если бы мы все изменили свой почерк, чтобы он лучше подходил для систем распознавания символов. Это именно то, что происходит сейчас, только в нашей голове. Это влияет на нашу речь и поведение.

Как ещё алгоритмы меняют наш мир?
Они изменяют инфраструктуру и ландшафт. К примеру, посмотрите на Нью-Йорк. Уолл-Стрит стал мировым торговым центром, потому что сюда приходили все корабли и грузы. Позже, здание Western Union стало центром коммуникации, потому что через него проходила вся телекоммуникационная инфраструктура.

Однако, сегодня сетевой центр Уолл-Стрит находится в маленьком городке Махва, штат Нью-Джерси, потому что это было самое безопасное место для размещения критической инфраструктуры — в пятнадцати километрах от Уолл-Стрит, но на максимальном расстоянии от атомных станций, тектонических разломов и авиамаршрутов. Все здания, построенные здесь, нужны для размещения и охлаждения серверов, на которых крутятся алгоритмы — в этих зданиях почти нет людей. Они сконструированы исключительно под сетевую топологию.

Так что, алгоритмы влияют на планировку городов?
Да, потому что скорость выполнения является ключевым элементом их эффективности, а скорость определяется близостью к сетевым узлам. Если вы можете выполнять транзакции быстрее других, то получаете гигантское преимущество. Оптоволоконный кабель раньше прокладывали вдоль железной дороги, но сейчас всё изменилось, потому что железные дороги идут по извилистым маршрутам, соединяя города, а это слишком медленно для алгоритмов. Для них кабели лучше прокладывать по прямым линиям. Одна компания под названием Spread Networks поступила именно так: они проложили кабель длиной 1300 км по максимально короткому пути между Нью-Йорком и Чикаго, просто чтобы сэкономить миллисекунды на транзакциях между двумя биржами.

Расскажите ещё об этих финансовых алгоритмах. Вероятно, они засекречены и являются очень ценными...
Верно, но иногда просачиваются в открытый доступ. Один из алгоритмов Goldman Sachs был опубликован в интернете. Они провели целое расследование, чтобы выяснить причины, как такое произошло.

Могут ли алгоритмы выйти из-под контроля?
Вот вам пример. Аспирант хочет купить экземпляр учебника по эволюционной биологии The Making of a Fly на Amazon. Там доступно для продажи 17 экземпляров, цены начинаются от $40, но два экземпляра стоят по $1,7 млн. Когда парень проверил чуть позже, цена подскочила уже до $27 млн. Он попытался выяснить, что произошло. Оказалось, два алгоритма установки цен попали в цикл — каждый изменял свою цену в зависимости от изменения цены другого. Поскольку у алгоритмов есть правила для изменения цены, но нет здравого смысла, процесс продолжался без остановки.

Наверное, будет не очень весело, если финансовые алгоритмы начнут вести себя подобным образом.
Да. Это был просто алгоритм для установки цены, но программы на Уолл-Стрит не только устанавливают цену, но и реально совершают сделки. Случай на Amazon совершенно безвредный, потому что покупка всё равно должна осуществляться человеком, который способен сказать: «Это сумасшествие, я не собираюсь платить двадцать семь миллионов долларов на книгу!». Но если бы для покупки использовались алгоритмы, как это происходит на Уолл-Стрит, цена могла бы повышаться до бесконечности, пока не достигнет технического лимита, установленного системой.

Такое когда-нибудь происходило?
Нечто подобное произошло на биржах 6 мая 2010 года (так называемый Flash Crash), когда 9% фондового рынка США внезапно испарились в течение нескольких минут. Одна из теорий говорит, что катализатором этих событий стала необычно большая заявка на продажу от одного из трейдерских алгоритмов, после чего все остальные алгоритмы высокоскоростной торговли начали на высокой скорости продавать и перепродавать, повергнув рынок в хаос.

Некоторые считают, что вы преувеличиваете риск алгоритмов.
Я согласен, что алгоритмы несут огромную пользу. Но я думаю, важно понимать также те незаметные вещи, которые начинают происходить вокруг нас. Я не думаю, что это конец мира, но мне кажется, нужно выработать строгие правила, чтобы сделать их видимыми.

К чему это может привести?
В научно-фантастическом варианте мой друг Рассел Дейвис предположил, что через тысячу лет не останется ни людей, ни компаний, а компьютерные алгоритмы будут по-прежнему торговать акциями, которые исчезли много лет назад.
Проголосовать:
+37
Сохранить: