Comments 46
Лично я считаю, что абсолютно нормально, что робомобили будут давить людей. Совсем не надо натягивать на это мораль. Люди смертны и умереть могут от чего угодно. Более того — они гарантированного умрут от всего чего угодно, просто если дать им неограниченное число попыток. Так что для любого изделия есть понятие — количества смертей на некий период работы устройства. Это позволяет сравнить две технологии с точки зрения безопасности для человека и выбрать ту, что убивает меньше людей в процессе использования. Количество жертв на миллион км есть и у самолетов и у поездов и у машин и велосипедов. Вообще у всего (даже у тележек из супермаркета — люди умудряются убиться и с ними) Вас вообще не должно заботить, принял ли робомобиль решение свернуть или давить. Есть статистика, которая показывает, что на миллион км жертв у автопилота меньше, чем у человека — следовательно автопилот уже можно выпускать на дорогу. С каждым ДТП будет разбор полетов и новые решения будут уменьшать и так низкий шанс жертв. Но чтоб собрать эти данные — надо чтоб дтп произошло. Опять же как выясняется — жертвами автопилота становятся те, кто плевал на ПДД… отсюда следует, что вины автопилота в этом нет и тут даже не требуется корректировки алгоритмов.
Ну, раньше, как-то считалось, что системы управления например самолетом, должны быть испытаны специально подготовлеными испытателями, в специальных местах. И только после этого можно подпускать самолет к людям. А сейчас, как я понял, предлагается испытывать прямо на живых ни к чему непричастных людях. Даже не на заключенных.
все, что могли — уже испытали специально обученные люди в специально отведенных местах — убедились, что автопилот давит заметно меньше людей чем человек, значит технология готова и может быть применена. Остальную информацию будут собирать по ходу дела. Без этого никто бы не выпустил автопилоты в город. Сначала они катались по виртуалкам, потом по полигонам, потом с надзирателями в городе. Теперь можно и без них. Напоминаю, что первые паровозы и самолеты с дирижаблями тоже собирали прилично жертв — но желающих их использовать становилось только больше.
Людей, которые кое-как научились рулить на площадке, можно учить на дорогах общего пользования, а роботов нельзя. В чем разница?
Только в том, что один живой и его можно посадить в тюрьму?
Именно, есть ответственные лица и прописанные в законах и правилах процедуры.

Так и с роботами ответственные лица могут быть — компания-производитель. Или Вам обязательно кого-то за решетку отправить?

Я за то, чтобы выпускать на дорогу так же, как выпускают людей. Т.е. тогда, когда есть четко прописанные процедуры и ответственные лица. И да, в случае аварий с человеческими жертвами должны быть следствие, суд и наказание виновных, если таковые есть.
Или Вам обязательно кого-то за решетку отправить?

Как бы, ответственность «компании производителя», в случае гибели людей — надо много странного и разного доказать.
А вот с роботами — уже есть проблемы. Уже есть робот, который «не заметил» и переехал человека вместе с велосипедом. Да, вне пешеходного перехода, да, БОМЖ, да, человек был пьян, да, на трассе…
Уже есть несколько «роботов», убивших «человеков», сидящих внутри, сделав вид, что езда против солнца или отсутствие понимания что есть что в кадре — вовсе не повод снизить скорость или потребовать ввода от сидящего внутри человека… Уже есть робот, который сказал «не может быть, чтобы едущая задом фура не могла меня видеть!»

Покажите мне хоть один пример ответственности «компании-производителя». Кто такой «компания-производитель» в случае «сбоя» распознавалки в ПО «робота»? Или будем применять стандартный дисклеймер, что каждый пользователь — сам дурак, что пользуется?
Не вижу ничего страшного нового и необычного в том, что люди гибнут в результате взаимодействия с роботами.

Лифты, эскалаторы, транспортеры, механические прессы и станки убивают сотни людей в год — а они тоже практически роботы. Большей частью в результате нарушения правил кожаными мешками. С робоавто добавится лишь еще один опасный фактор, который мы научимся учитывать. Что в этом такого?

PS: Я за роботизацию авто, нравится предсказуемость и безэмоциональность робоустройств. Дома использую банальный пылесос от xiaomi — так одно удовольствие посмотреть, как он работает — методично, не пропуская ни сантиметра площади, и, несмотря на малую мощность всасывания — отлично собирает пыль и мелкие крошки.

PPS: А жесткое следование правилам и более интенсивное использование автопарка позволит облегчить ситуацию с пробками в городах (с удовольствием буду пользоваться роботакси в городе).
Количество жертв Кометы противоречит вашему высказыванию.

Вообще-то, формально, история с Кометой — вообще о другом.
Самолет был испытан испытателями, проблем с ним почти не было, какие были — были устранены. Самолет был сертифицирован и допущен на рейсы. Другое дело, что через какое-то время полетов (почти два года регулярных коммерческих полетов!) оказалось, что из-за усталости металла в углах прямоугольных иллюминаторов, первые серийные Кометы, иногда, от перепада давлений разрывает на очень мелкие кусочки.
Это еще один аспект изобретательства. Вроде бы очевидно, сейчас, что в углах под нагрузкой металл устает быстрее, возникают трещины и повышается риск катастрофического разрушения. (В паровых котлах и бойлерах этот косяк обнаружили и устранили полностью к 19-му веку.) А вот что в самолете на высоте 10 км примерно то же самое происходит, и металл, не сталь в три сантиметра толщиной, а пол миллиметра аллюминия… Теперь иллюминаторы в самолетах существенно круглее и меньше, а еще давление в кабине теперь достаточно прилично сбрасывают. Но ведь до Кометы пассажирские самолеты 40 лет летали, условно, с иллюминаторами из целлулоида, прибитого гвоздями к деревянной раме!

А с саморулящимися автомобилями сейчас почти то же самое, но хуже. Проверяют все в тепличных условиях, под присмотром специальных людей на пустых дорогах самых малонаселенных штатов. А что там будет на дорогах твориться, когда в камеру Тесле на Манхеттене будут одновременно светить 30-40 лидаров 10-15 разных производителей… Это будет потом.
Еще один вопрос, который, кажется, даже еще не поднимали: что будет твориться с глазами пешеходов, когда их будут одновременно облучать 30-40 лазеров (из которых половина «китайских» со случайными характеристиками длины волны и мощности)? Или как в Изумрудном городе CSI выходить на улицу или выглядывать в окно только надев оранжевые очки?
Всё ещё веселее. В некоторых арабских странах — если ты не увернулся от автомобиля — сам дурак. Если вдруг, ты не увернулся, а автомобиль в это время ехал не по дороге — водитель автомобиля заплатит твоим родственникам компенсацию… Небольшую. Ибо, если ты не увернулся — сам дурак.

Соответственно, в таких странах — просто обозначить ярко и явно зоны на дороге, где имеют право быть робомобили. Все, кто погиб внутри — сами виноваты.

Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».

Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».

И вдруг пропадает проблема вагонетки и все такое. Если люди зашли в зону, разрешенную для движения робомобилей — сами виноваты. Если робомобиль какого-то производителя выехал по каким-то причинам из зоны для робомобилей — такого произовдителя и всех его программистов больше нет. Навсегда. Ну да. Через год не останется робомобилей и их производителей… Но, вроде, хорошо же, когда по каждому поводу можно посадить конкретного виноватого?
А когда робомобиль… Ищи потом среди полутора миллиардов населения Индии того самого автора той самой строчки в коде, которая переводится «слава роботам, убить всех человеков»…
Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».
Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».
И вдруг пропадает проблема вагонетки и все такое.

Конечно пропадает — какой дурак согласится разрабатывать с такими рисками?!


Вы как себе эту разработку представляете? Работал, работал, потом случился факап, и всё — возвращай все (уже потраченные) деньги, вон из профессии. Зачем вообще на таких условиях работать? Вы видели людей, кто на такое согласится? Или хотя бы сами согласитесь?

Мы болезненно охвачены идеей о том, что теперь машины решают кто должен умереть, хотя раньше это было полем деятельности богов

На протяжении истории это решение в основном исходило от людей. Причем причины были намного хуже тех, которые указаны в проблеме вагонетки

Вообще, на дороге нет проблемы вагонетки. По правилам, ИМХО, водитель должен тормозить, не меняя полосы движения.
По правилам, ИМХО, водитель должен тормозить, не меняя полосы движения.

Не надо «ИМХО», в правилах нет «не меняя полосы».
ПДД: маневрировать или тормозить?

ПДД: маневрировать или тормозить?
Как правильно действовать в экстренной ситуации

Что требуют правила?

На случай описанной ситуации ПДД отвечают пунктом 10.1, который отправил в колонии не меньше водителей, чем все остальные пункты вместе взятые. Процитируем его фрагмент: «При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».

Проще говоря, ПДД требуют, чтобы в случае выявления на дороге препятствия водитель тормозил. И если понадобится, тормозить до полной остановки.

Это одно из тех правил, которые написаны кровью. Торможение, даже если не позволяет избежать аварии, снижает тяжесть ее последствий. Кроме того, ПДД учитывают тот факт, что далеко не все автомобилисты обладают приемами контраварийного вождения, которые позволяют в иных случаях технично увернуться от опасности, совершив объездной маневр. Торможение, особенно на современных автомобиля с АБС, является самым доступным контраварийным приемом для среднестатистического водителя.
Это всё прекрасно. И этому учат в автошколах. И возможно это наилучшая стратегия в определённых условиях. Тем не менее «не меняя полосы» в правилах нет.
Ну да, в правилах не написано, не меняя полосы. Это так. Тут я согласен. В правилах написано, какие действия обязательно нужно предпринимать, для того, чтобы у суда не было претензий. В случае препятствия — снизить скорость, вплоть до полной остановки. За другие действия, можно с точки зрения суда сесть. С точки зрения дорожной логики другими действиями можно ухудшить обстановку.
Перед сменой полосы должны быть осуществлены следующие действия:
Правила перестроения из одного ряда в другой четко регламентированы законодательством и прописаны в десятом разделе ПДД. Как гласит этот нормативный документ, каждый водитель, при осуществлении любого маневра и смене направления движения, должен убедиться в том, что его действия не станут причиной создания аварийно-опасной ситуации на дороге. Помимо этого, перед осуществлением смены полосы движения необходимо проинформировать об этих намерениях других водителей путем включения соответствующего поворотного сигнала.
Проблема вагонетки не техническая. Это абстрактная морально-этическая дилемма, она вообще может быть никак не связана с путями, тормозами и тому подобным. Читайте ее как: есть ситуация, в которой если ничего не предпринимать погибнут индивиды А, Б, В, Г, Д (количество по желанию), а если предпринять действие, то погибнет индивид Х, изначально риску не подвергавшийся.
ПДД для людей написаны так, чтобы не ставить водителей в такие ситуации, когда они должны решать морально-этические дилеммы во время движения. Водители должны, насколько это возможно, руководствоваться максимально простыми и четкими правилами.То же самое ИМХО должно выполняться при написании нормативных актов для роботов. И роботы должны этим правилами руководствоваться. Если приходится решать мутные дилеммы, значит что-то не так и мы не готовы для выпуска роботов на дорогу.

Проблема морального выбора возникает тогда, когда этот выбор нельзя предотвратить. Человек как правило даже не успеет сделать этот выбор, а вот компьютер — может, в этом его преимущество

Это слепая вера во всемогущество техники и одновременно отвергание утоявшихся в технике подходов. Не очень хорошее сочетание.

Здесь нет веры, есть лишь наука. Реакция человека (особенно средне-статистического) довольно медленная, не говоря уже о том, чтобы не просто отреагировать на внезапное изменение ситуации, а еще и проанализировать и выбрать наилучший вариант

Мне нравится говорить, что инженерное решение этой задачи более простое – нужно починить тормоза вагонетки.
Задача про вагонетку — это классический пример ложной диллемы, а не инженерная задача. Подобные исследования проводятся не для того, чтобы решить проблему с вагонеткой, а для наблюдения за психикой людей, попавших в безвыходную ситуацию. С тем же успехом можно было бы упомянуть военных пилотов, которые сбрасывали бомбы, но не считали себя убийцами — легче нажимать на кнопку сброса, когда не видно глаз человека.
Страховые компании думают об общей картине, как и мы, когда мы покупаем их полисы. Правительства думают так же. Мы должны научиться рассуждать таким образом и принять позицию с согласием на допуск небольших рисков, если мы хотим разобраться с настоящей трагедией, которая является результатом плохой истории человеческого вождения.
Предлагаете научиться откладывать моральные ограничения в сторону, когда речь заходит о благе общества? Похоже на зыбкую тропу через болото. Мне казалось, что статья идет к другому выводу — тестировать нужно аккуратнее, а не смиряться с «неизбежными» потерями во благо будущего процветания.
Просто с таким подходом ребятам надо заниматься не гражданскими, а военными заказами. Там чем больше урон, тем круче вагонетка).

Имхо, это подход к проблеме автономного транспорта с неверной стороны. Вместо того, чтобы разглагольствовать, кого будет давить несуществующий робот в несуществующей ситуации, нужно писать код, блеать. Нужно писать новые алгоритмы, новые правила и законы организации движения, выбивать деньги на их реализацию. Система должна быть построена так, чтобы исключать жертвы абсолютно. Или хотя бы сразу уменьшить процент жертв по сравнению с текущими значениями.
Но вести неразрешимые философские споры — гораздо проще, чем создавать ИИ или законодательство, позволяющее безопасно этот ИИ использовать.

UFO landed and left these words here
мораль роботизированного транспорта ровно одна: год задержки перехода = плюс миллион трупов
Не вижу логики. Если, как указано в статье, основные причины смертей это ошибки водителя, превышение скорости и вождение в нетрезвом виде, то роботы их не отменят, а лишь дополнят новыми рисками на дороге, связанными с несовершенством технологий.

Очевидно, когда за рулём конкретного ТС робот-водитель, человек-водитель ошибки сделать не может независимо от состояния, т.к. он не за рулём (да и вообще не является водителем в данной ситуации).

Диллема вагонетки не в психологии выбора — она в законодательстве.

Если человек тронул стрелку — он сядет при любом исходе. т.к. возникает причинно следственная связь — между его действием > конкретной жертвой.
А если не тронул — сядет директор вагонеточной конторы, как владелец средства повышенной опасности, допустивший саму эту ситуацию.
> А если не тронул
Не может не тронуть если он только не просветлённый или в коме в тот момент. Будет потом думать всю жизнь и не известно ещё чем закончится. Ну это так, дополнение.
Число погибших в ДТП в России в 2019 году составляет более 16 000 человек.
И что-то никто по этому поводу не беспокоится. Ну увольняют главаря ГИБДД, не устанавливают максимальную скорость 20 км/ч. Привыкли, наверно.

Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни и сколько таких случаев бывает за год?

Беспокоятся. К 2030 году планируют достичь нулевой смертности на дорогах. Да, в РФ.
В это даже можно поверить — перед глазами опыт Швеции, правда там пока не снизили до нуля. Но если поставить цель и учитывать готовый чужой опыт — может и получится.

А в 2018-м погибло больше 18 тысяч. А в 2017-м — больше 19 тысяч. В 16-м — больше 20 тысяч. В 15-м — больше 23 тысяч погибших.

И что-то никто по этому поводу не беспокоится.

А надо беспокоиться, что смертность на дорогах за пять лет снизилась почти в два раза? Это плохо? Надо было повышать смертность? Или вы хотите чтобы… рраз, и все на новых машинах с радарами, пристегнутые ремнями безопасности?..
До сих пор больше половины водителей даже в Москве даже на приличных машинах — не пристегиваются. Пассажиров пристегивают — вообще еденицы. Вплоть до того, что когда доводится ехать на такси, 9 раз из 10 мне приходится заставлять водителя пристегнуться.

Число погибших в ДТП в России в 2019 году составляет более 16 000

А где вы взяли информацию? Пока есть официальные данные только про 15 тысяч за 11 месяцев. Данные за декабрь обещают опубликовать к середине февраля. Конечно, теоретически, 15 + 15/11 будет больше 16. Но официальных данных — пока нет. Вдруг именно в декабре все решили пристегиваться, ездить особенно аккуратно и не гибнуть на дорогах?

Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни

Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.
Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.

Среди решений "Давить человека А" или "Давить человека Б" нет правильного. Правильное решение здесь из разряда "На автомагистралях и дорогах — полностью огородить грузовики от пешеходов, мелких машин и встречного потока (чтобы исключить серьезные столкновения); во дворах — ограничить скорость настолько, чтобы машина не могла никого убить (уменьшить опасность мелких столкновений)" (по мотивам Vision Zero). То есть придётся полностью переделать дорожную инфраструктуру под некие новые стандарты, не пропуская ни одного переулка, что стоит много денег.


Короче, реальная проблема — на одной чаше весов "имеем 15к+ смертей в год", на другой — "тратим N охулиардов денег на дороги и прочее" (и решение "тратим", наверно, очевидно). А вагонетки на данный момент — не проблема.

полностью огородить грузовики от пешеходов

Во-первых, вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми (хотя, год назад, дама в битой по кругу Гранте с тремя детьми до 3-х лет в машине, решая обратную задачу вагонетки (об кого убиться будет менее больно) на перекрестке, выбрала мою машину...)? Пешеходы, что интересно, в критической ситуации чисто на адреналине очень часто успевают увернуться.

Что интересно, практически полное разделение грузового и пассажирского трафика — уже изобретено и работает скоро 200 лет как! Называется «железная дорога». На многих ветках ЖД машинист сейчас выполняет всего две функции — 1) надо же над кем-то поиздеваться и поставить «павловские» опыты: чтобы не спал и вовремя жал педальку, что он не спит, сериалы чтобы не смотрел, в танчики не играл, все это время тупо пялясь вперед...; и 2) готовый виноватый, если что-то случится (с компании, если что, попытаются содрать миллиарды, а когда есть виноватый, обычный человек, с доходом чуть-чуть ниже среднего… Ну назначит ему суд выплачивать миллиард с зарплаты… Всего каких-то 150 тысяч лет, если без процентов…

При этом, вся необходимая автоматика для того, чтобы железные дороги работали на 99% без участия оператора — есть уже лет 40. И уже лет 30 как работает на каких-то из веток метро в Париже. Добавив к автоматике чуть-чуть тесловского «автопилота», который бы еще визуально распознавал светофоры, знаки и путейцев на путях… мы могли бы разом избавиться от профессии «машинист поезда». Просто 40 лет назад машинисты обходились существенно дешевле.
Кстати, похоже, что сейчас, по крайней мере в Европе, всвязи с увеличением зарплат водителей и законодательных жестких ограничений на время, которое водитель имеет право находиться за рулем в сутки, объем железнодорожных грузовых перевозок уже лет 10… чуть-чуть… но растет.

PS: «Обратная задача вагонетки» ((с) Я 13.01.2020)… Это чуть более важна задача для легкового робомобиля на трассе: при убивании об кого меньше людей погибнет и меньше людей посадят?
вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми

Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте), от любого удара пострадает лишь железо, и нет дилеммы, кого бить. Ну или пешеход увернётся.


Полагаю, на жд машинист нужен в том 1% случаев, когда что-то идёт на так. Как и пилот самолёта.

Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте)

«Ехать достаточно медленно» — это с тождественно нулевой скоростью. Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП». Предельный случай: бывает, что человек ногой о собственную ногу спотыкается и падает головой об что-то твердое. Люди, бывает, получают серьезные травмы просто столкнувшись с другим человеком.

А машинист сейчас… Что он может сделать? Максимум — включить режим экстренного торможения. Так это и автоматика легко сделает.
Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП».

Да, небольшая вероятность всегда остаётся, но малая скорость даёт возможность успеть среагировать водителю, или пешеходу, или какой-то автоматической системе торможения.

но малая скорость даёт возможность успеть

— посмотреть сериал;
— почитать новости;
— написать сообщения в десяток чатов о том, какие жуткие пробки;
— обзвонить друзей, знакомых, родственников;
… а в результате…
— просто уснуть;
И во всех вариантах люди вообще не пытаются реагировать на изменение дорожной ситуации.
Или наоборот, вдруг начинают тормозить в пол, уловив боковым зрением зажегшуюся яркую красную лампочку, хотя впереди расстояние до ближайшей машины 500 метров и она не тормозит…

Кстати, как раз сегодня где-то встретилось утверждение, что последние несколько лет происходит резкий рост количества ДТП со смертельным исходом, вызванных слишком низкой скоростью.

Идея в том, что на 20-30км/ч, даже если водитель заруливает в стену, машина спроектирована так, что люди не страдают. Но наказание рублем за такие похождения всегда остается.


— просто уснуть

На низкой скорости это не такая уж проблема (но не для кошелька, конечно). Ещё можно добавлять электронику, которая автоматически тормозит перед препятствием, или когда водитель уснул. Или прямо выписывать штрафы за смс-ки за рулем. Технических возможностей масса, не все из них хороши, правда, но что-то можно пробовать.

Кстати, поддержу — когда ездил на НГ в Финляндию, где максимальная скорость на трассах зимой 80 и жестко контролируется — столкнулся с тем, что очень хочется спать. Едешь 79 на круиз-контроле, впереди еще 300-400 километров, темный зимний день, все остальные едут так же, никакой активности — начинаешь терять концентрацию.
Only those users with full accounts are able to leave comments. Log in, please.
Information
Founded

1 January 1994

Location

Россия

Employees

1,001–5,000 employees

Registered

18 October 2019