Comments 47
Только в том, что один живой и его можно посадить в тюрьму?
Так и с роботами ответственные лица могут быть — компания-производитель. Или Вам обязательно кого-то за решетку отправить?
Или Вам обязательно кого-то за решетку отправить?
Как бы, ответственность «компании производителя», в случае гибели людей — надо много странного и разного доказать.
А вот с роботами — уже есть проблемы. Уже есть робот, который «не заметил» и переехал человека вместе с велосипедом. Да, вне пешеходного перехода, да, БОМЖ, да, человек был пьян, да, на трассе…
Уже есть несколько «роботов», убивших «человеков», сидящих внутри, сделав вид, что езда против солнца или отсутствие понимания что есть что в кадре — вовсе не повод снизить скорость или потребовать ввода от сидящего внутри человека… Уже есть робот, который сказал «не может быть, чтобы едущая задом фура не могла меня видеть!»
Покажите мне хоть один пример ответственности «компании-производителя». Кто такой «компания-производитель» в случае «сбоя» распознавалки в ПО «робота»? Или будем применять стандартный дисклеймер, что каждый пользователь — сам дурак, что пользуется?
Лифты, эскалаторы, транспортеры, механические прессы и станки убивают сотни людей в год — а они тоже практически роботы. Большей частью в результате нарушения правил кожаными мешками. С робоавто добавится лишь еще один опасный фактор, который мы научимся учитывать. Что в этом такого?
PS: Я за роботизацию авто, нравится предсказуемость и безэмоциональность робоустройств. Дома использую банальный пылесос от xiaomi — так одно удовольствие посмотреть, как он работает — методично, не пропуская ни сантиметра площади, и, несмотря на малую мощность всасывания — отлично собирает пыль и мелкие крошки.
PPS: А жесткое следование правилам и более интенсивное использование автопарка позволит облегчить ситуацию с пробками в городах (с удовольствием буду пользоваться роботакси в городе).
Количество жертв Кометы противоречит вашему высказыванию.
Вообще-то, формально, история с Кометой — вообще о другом.
Самолет был испытан испытателями, проблем с ним почти не было, какие были — были устранены. Самолет был сертифицирован и допущен на рейсы. Другое дело, что через какое-то время полетов (почти два года регулярных коммерческих полетов!) оказалось, что из-за усталости металла в углах прямоугольных иллюминаторов, первые серийные Кометы, иногда, от перепада давлений разрывает на очень мелкие кусочки.
Это еще один аспект изобретательства. Вроде бы очевидно, сейчас, что в углах под нагрузкой металл устает быстрее, возникают трещины и повышается риск катастрофического разрушения. (В паровых котлах и бойлерах этот косяк обнаружили и устранили полностью к 19-му веку.) А вот что в самолете на высоте 10 км примерно то же самое происходит, и металл, не сталь в три сантиметра толщиной, а пол миллиметра аллюминия… Теперь иллюминаторы в самолетах существенно круглее и меньше, а еще давление в кабине теперь достаточно прилично сбрасывают. Но ведь до Кометы пассажирские самолеты 40 лет летали, условно, с иллюминаторами из целлулоида, прибитого гвоздями к деревянной раме!
А с саморулящимися автомобилями сейчас почти то же самое, но хуже. Проверяют все в тепличных условиях, под присмотром специальных людей на пустых дорогах самых малонаселенных штатов. А что там будет на дорогах твориться, когда в камеру Тесле на Манхеттене будут одновременно светить 30-40 лидаров 10-15 разных производителей… Это будет потом.
Еще один вопрос, который, кажется, даже еще не поднимали: что будет твориться с глазами пешеходов, когда их будут одновременно облучать 30-40 лазеров (из которых половина «китайских» со случайными характеристиками длины волны и мощности)? Или как в
Соответственно, в таких странах — просто обозначить ярко и явно зоны на дороге, где имеют право быть робомобили. Все, кто погиб внутри — сами виноваты.
Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».
Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».
И вдруг пропадает проблема вагонетки и все такое. Если люди зашли в зону, разрешенную для движения робомобилей — сами виноваты. Если робомобиль какого-то производителя выехал по каким-то причинам из зоны для робомобилей — такого произовдителя и всех его программистов больше нет. Навсегда. Ну да. Через год не останется робомобилей и их производителей… Но, вроде, хорошо же, когда по каждому поводу можно посадить конкретного виноватого?
А когда робомобиль… Ищи потом среди полутора миллиардов населения Индии того самого автора той самой строчки в коде, которая переводится «слава роботам, убить всех человеков»…
Если робомобиль убил кого-то за пределами выделенноой зоны — все робомобили этого производителя «максимально безопасно паркуются и отключаются», производитель оплачивает все издержки и компенсации, которые сможет изобрести суд, и, в то же время, отзывает все свои робомобили. Т.е. примерно «прекращает деятельность, возвращает 100% денег всем, кто когда либо использовал его робомобили».
Всем разработчикам, касавшимся робомобилей этого производителя и ПО для них — X лет «запрета на профессию».
И вдруг пропадает проблема вагонетки и все такое.
Конечно пропадает — какой дурак согласится разрабатывать с такими рисками?!
Вы как себе эту разработку представляете? Работал, работал, потом случился факап, и всё — возвращай все (уже потраченные) деньги, вон из профессии. Зачем вообще на таких условиях работать? Вы видели людей, кто на такое согласится? Или хотя бы сами согласитесь?
Мы болезненно охвачены идеей о том, что теперь машины решают кто должен умереть, хотя раньше это было полем деятельности богов
На протяжении истории это решение в основном исходило от людей. Причем причины были намного хуже тех, которые указаны в проблеме вагонетки
По правилам, ИМХО, водитель должен тормозить, не меняя полосы движения.
Не надо «ИМХО», в правилах нет «не меняя полосы».
В разных странах разное ПДД.
ПДД: маневрировать или тормозить?
Как правильно действовать в экстренной ситуации
Что требуют правила?
На случай описанной ситуации ПДД отвечают пунктом 10.1, который отправил в колонии не меньше водителей, чем все остальные пункты вместе взятые. Процитируем его фрагмент: «При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства».
Проще говоря, ПДД требуют, чтобы в случае выявления на дороге препятствия водитель тормозил. И если понадобится, тормозить до полной остановки.
Это одно из тех правил, которые написаны кровью. Торможение, даже если не позволяет избежать аварии, снижает тяжесть ее последствий. Кроме того, ПДД учитывают тот факт, что далеко не все автомобилисты обладают приемами контраварийного вождения, которые позволяют в иных случаях технично увернуться от опасности, совершив объездной маневр. Торможение, особенно на современных автомобиля с АБС, является самым доступным контраварийным приемом для среднестатистического водителя.
Перед сменой полосы должны быть осуществлены следующие действия:
Правила перестроения из одного ряда в другой четко регламентированы законодательством и прописаны в десятом разделе ПДД. Как гласит этот нормативный документ, каждый водитель, при осуществлении любого маневра и смене направления движения, должен убедиться в том, что его действия не станут причиной создания аварийно-опасной ситуации на дороге. Помимо этого, перед осуществлением смены полосы движения необходимо проинформировать об этих намерениях других водителей путем включения соответствующего поворотного сигнала.
Проблема морального выбора возникает тогда, когда этот выбор нельзя предотвратить. Человек как правило даже не успеет сделать этот выбор, а вот компьютер — может, в этом его преимущество
Мне нравится говорить, что инженерное решение этой задачи более простое – нужно починить тормоза вагонетки.Задача про вагонетку — это классический пример ложной диллемы, а не инженерная задача. Подобные исследования проводятся не для того, чтобы решить проблему с вагонеткой, а для наблюдения за психикой людей, попавших в безвыходную ситуацию. С тем же успехом можно было бы упомянуть военных пилотов, которые сбрасывали бомбы, но не считали себя убийцами — легче нажимать на кнопку сброса, когда не видно глаз человека.
Страховые компании думают об общей картине, как и мы, когда мы покупаем их полисы. Правительства думают так же. Мы должны научиться рассуждать таким образом и принять позицию с согласием на допуск небольших рисков, если мы хотим разобраться с настоящей трагедией, которая является результатом плохой истории человеческого вождения.Предлагаете научиться откладывать моральные ограничения в сторону, когда речь заходит о благе общества? Похоже на зыбкую тропу через болото. Мне казалось, что статья идет к другому выводу — тестировать нужно аккуратнее, а не смиряться с «неизбежными» потерями во благо будущего процветания.
Имхо, это подход к проблеме автономного транспорта с неверной стороны. Вместо того, чтобы разглагольствовать, кого будет давить несуществующий робот в несуществующей ситуации, нужно писать код, блеать. Нужно писать новые алгоритмы, новые правила и законы организации движения, выбивать деньги на их реализацию. Система должна быть построена так, чтобы исключать жертвы абсолютно. Или хотя бы сразу уменьшить процент жертв по сравнению с текущими значениями.
Но вести неразрешимые философские споры — гораздо проще, чем создавать ИИ или законодательство, позволяющее безопасно этот ИИ использовать.
Если человек тронул стрелку — он сядет при любом исходе. т.к. возникает причинно следственная связь — между его действием > конкретной жертвой.
А если не тронул — сядет директор вагонеточной конторы, как владелец средства повышенной опасности, допустивший саму эту ситуацию.
И что-то никто по этому поводу не беспокоится. Ну увольняют главаря ГИБДД, не устанавливают максимальную скорость 20 км/ч. Привыкли, наверно.
Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни и сколько таких случаев бывает за год?
Беспокоятся. К 2030 году планируют достичь нулевой смертности на дорогах. Да, в РФ.
В это даже можно поверить — перед глазами опыт Швеции, правда там пока не снизили до нуля. Но если поставить цель и учитывать готовый чужой опыт — может и получится.
И что-то никто по этому поводу не беспокоится.
А надо беспокоиться, что смертность на дорогах за пять лет снизилась почти в два раза? Это плохо? Надо было повышать смертность? Или вы хотите чтобы… рраз, и все на новых машинах с радарами, пристегнутые ремнями безопасности?..
До сих пор больше половины водителей даже в Москве даже на приличных машинах — не пристегиваются. Пассажиров пристегивают — вообще еденицы. Вплоть до того, что когда доводится ехать на такси, 9 раз из 10 мне приходится заставлять водителя пристегнуться.
Число погибших в ДТП в России в 2019 году составляет более 16 000
А где вы взяли информацию? Пока есть официальные данные только про 15 тысяч за 11 месяцев. Данные за декабрь обещают опубликовать к середине февраля. Конечно, теоретически, 15 + 15/11 будет больше 16. Но официальных данных — пока нет. Вдруг именно в декабре все решили пристегиваться, ездить особенно аккуратно и не гибнуть на дорогах?
Проблема вагонетки. Когда и где такая проблема возникает в реальной жизни
Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.
Ну тут примерно все случаи, которые видел я, это отказ тормозов у большегрузов. И да, в почти каждой подборке ДТП с регистраторов пара-тройка таких случаев присутствует. Так что, речь идет о сотнях случаев в год. И, по мере увеличения массы самоуправляемого автомобиля (помните? Тесла обещает вот-вот выкатить в продажу фуру?) — важность правильного решения «проблемы вагонетки» будет возрастать.
Среди решений "Давить человека А" или "Давить человека Б" нет правильного. Правильное решение здесь из разряда "На автомагистралях и дорогах — полностью огородить грузовики от пешеходов, мелких машин и встречного потока (чтобы исключить серьезные столкновения); во дворах — ограничить скорость настолько, чтобы машина не могла никого убить (уменьшить опасность мелких столкновений)" (по мотивам Vision Zero). То есть придётся полностью переделать дорожную инфраструктуру под некие новые стандарты, не пропуская ни одного переулка, что стоит много денег.
Короче, реальная проблема — на одной чаше весов "имеем 15к+ смертей в год", на другой — "тратим N охулиардов денег на дороги и прочее" (и решение "тратим", наверно, очевидно). А вагонетки на данный момент — не проблема.
полностью огородить грузовики от пешеходов
Во-первых, вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми (хотя, год назад, дама в битой по кругу Гранте с тремя детьми до 3-х лет в машине, решая обратную задачу вагонетки (об кого убиться будет менее больно) на перекрестке, выбрала мою машину...)? Пешеходы, что интересно, в критической ситуации чисто на адреналине очень часто успевают увернуться.
Что интересно, практически полное разделение грузового и пассажирского трафика — уже изобретено и работает скоро 200 лет как! Называется «железная дорога». На многих ветках ЖД машинист сейчас выполняет всего две функции — 1) надо же над кем-то поиздеваться и поставить «павловские» опыты: чтобы не спал и вовремя жал педальку, что он не спит, сериалы чтобы не смотрел, в танчики не играл, все это время тупо пялясь вперед...; и 2) готовый виноватый, если что-то случится (с компании, если что, попытаются содрать миллиарды, а когда есть виноватый, обычный человек, с доходом чуть-чуть ниже среднего… Ну назначит ему суд выплачивать миллиард с зарплаты… Всего каких-то 150 тысяч лет, если без процентов…
При этом, вся необходимая автоматика для того, чтобы железные дороги работали на 99% без участия оператора — есть уже лет 40. И уже лет 30 как работает на каких-то из веток метро в Париже. Добавив к автоматике чуть-чуть тесловского «автопилота», который бы еще визуально распознавал светофоры, знаки и путейцев на путях… мы могли бы разом избавиться от профессии «машинист поезда». Просто 40 лет назад машинисты обходились существенно дешевле.
Кстати, похоже, что сейчас, по крайней мере в Европе, всвязи с увеличением зарплат водителей и законодательных жестких ограничений на время, которое водитель имеет право находиться за рулем в сутки, объем железнодорожных грузовых перевозок уже лет 10… чуть-чуть… но растет.
PS: «Обратная задача вагонетки» ((с) Я 13.01.2020)… Это чуть более важна задача для легкового робомобиля на трассе: при убивании об кого меньше людей погибнет и меньше людей посадят?
вопрос не в пешеходах, а в выборе — бить вот тот универсал с рассадой, или вот тот Майбах с олигархом, или ту ржавую гранту, где дама с тремя детьми
Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте), от любого удара пострадает лишь железо, и нет дилеммы, кого бить. Ну или пешеход увернётся.
Полагаю, на жд машинист нужен в том 1% случаев, когда что-то идёт на так. Как и пилот самолёта.
Если ехать достаточно медленно (т.е. по грамотно спроектированным дорогам на грамотно спроектированным транспорте)
«Ехать достаточно медленно» — это с тождественно нулевой скоростью. Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП». Предельный случай: бывает, что человек ногой о собственную ногу спотыкается и падает головой об что-то твердое. Люди, бывает, получают серьезные травмы просто столкнувшись с другим человеком.
А машинист сейчас… Что он может сделать? Максимум — включить режим экстренного торможения. Так это и автоматика легко сделает.
Любая не нулевая скорость любого из участников движения — гарантирует, что рано или поздно кто-то погибнет в «ДТП».
Да, небольшая вероятность всегда остаётся, но малая скорость даёт возможность успеть среагировать водителю, или пешеходу, или какой-то автоматической системе торможения.
но малая скорость даёт возможность успеть
— посмотреть сериал;
— почитать новости;
— написать сообщения в десяток чатов о том, какие жуткие пробки;
— обзвонить друзей, знакомых, родственников;
… а в результате…
— просто уснуть;
И во всех вариантах люди вообще не пытаются реагировать на изменение дорожной ситуации.
Или наоборот, вдруг начинают тормозить в пол, уловив боковым зрением зажегшуюся яркую красную лампочку, хотя впереди расстояние до ближайшей машины 500 метров и она не тормозит…
Кстати, как раз сегодня где-то встретилось утверждение, что последние несколько лет происходит резкий рост количества ДТП со смертельным исходом, вызванных слишком низкой скоростью.
Идея в том, что на 20-30км/ч, даже если водитель заруливает в стену, машина спроектирована так, что люди не страдают. Но наказание рублем за такие похождения всегда остается.
— просто уснуть
На низкой скорости это не такая уж проблема (но не для кошелька, конечно). Ещё можно добавлять электронику, которая автоматически тормозит перед препятствием, или когда водитель уснул. Или прямо выписывать штрафы за смс-ки за рулем. Технических возможностей масса, не все из них хороши, правда, но что-то можно пробовать.
Я считаю что самый правильный подход у Теслы. Автопилот под присмотром водителя. Никакие полигоны и симуляции не заменят миллионы км реальности. Сейчас автопилот безопаснее на трассе а через год-два будут безопаснее везде. Первыми отреагируют страховки которые будут снижать цены при пользовании автопилотом. Ну а потом и государство начнёт лимитировать управление людьми.
Мораль роботизированного транспорта: проблема вагонетки, риски и последствия