Pull to refresh

Comments 36

Слюшай, как проехать подскажешь, да?

Епт, мы до сих пор не знаем что там сбойнуло у Убера в Тампе, а здесь еще «черные ящики».

Пока такая инфа, профессиональные программисты выставили криво фильтр. Из за чего машина начала игнорить важные объекты.
"Cамоуправляемый автомобиль Uber насмерть сбил велосипедистку в Аризоне из-за сбоя программного обеспечения, определяющего, какие объекты на дороге нужно игнорировать, а на какие обращать внимание. Об этом сообщили The Information источники, близкие к расследованию инцидента.


По данным собеседников издания, система не могла «не увидеть» велосипедистку Элен Херцберг перед столкновением, так как та находилась прямо перед лидаром («глазами» автомобиля) и передними камерами. Однако машина не стала сигналить и даже не снизила скорость.


Источники The Information пояснили, что во всём виновата часть программного обеспечения машины, отвечающая за логику после распознавания объектов. Чтобы самоуправляемая машина «не паниковала» при виде каждого нового препятствия, в систему заложили возможность на манер людей игнорировать какие-то незначительные вещи, например, припаркованный у дороги мотоцикл.


Cпециалисты вручную устанавливали чувствительность этой функции. И, похоже, что машина, сбившая велосипедистку, была настроена игнорировать даже те объекты, на которые должна была обращать внимание. Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.


19 марта самоуправляемая машина Uber насмерть сбилавелосипедистку, когда та переходила дорогу в неположенном месте. За рулём машины был водитель, но он отвлёкся от управления на несколько секунд, как раз в тот момент, когда автомобиль ещё мог остановиться.


После этого Uber принесла семье погибшей соболезнования и договорилась о досудебном урегулировании инцидента. Все испытания самоуправляемых машин приостановили на неопределённый срок, а к расследованию подключились американские власти."

Житейская логика говорит что нужно избегать тарана любого твердого предмета, хотя бы с точки зрения целостности бампера. В данный убермобиль случайно залили прошивку для участия в дерби?
UFO just landed and posted this here
Пакет размером с идущего человека? А как быть с человеком лежащим на дороге, система уже научилась отличать его от дорожных неровностей или того-же пакета?
UFO just landed and posted this here
Вот только неспособность отличить крупный пакет от кошки вызовет повреждения. Человек тоже не всегда может, но задача не ставилась быть хуже человека.
Человека лежащего на дороге, скорее всего, распознает как лежачего полицейского… даже если он не в форме.
Другой пример приведите. Этот не уместен.
Во-первых, целлофановый пакет может залететь на лобовое стекло и закрыть обзор, что у неопытного водителя вызовет реакцию которая приведет к еще большим последствиям
Во-вторых, я как опытный водитель начну как минимум притормаживать оценив ситуацию сзади.
При любом раскладе, лучше робот начнет торможение и в жопу войдет другой автомобиль, чем ситуация которая произошла в данной истории.

Там проще. Вот так корпят-корпят суперпрограммеры над модулями распознавания, а какой-нить контрактор индус потом все это интегрирует через пень-колоду в единую систему. Вот так и работают все эти конторы разработчики, так называемых автопилотов с индусским ИИ.

Странно, но на расположение препятствия на дороге Всё равно надо реагировать. пусть, мотоцикл припаркованный у обочины, не представляет опасности для автомобиля, но тот же мотоцикл, припаркованный по центру проезжей части — представляет. И может приводить как к повреждениям автомобиля так и к травмированию водителя…
Мне кажется, что именно для робомобилей машинное обучение и прочие непрозрачные методы — это тупиковый путь. При любой аварии со смертельным исходом надзорные органы захотят знать, почему это произошло, и если это ошибка машишы, то исправлен ли баг. Варианты с черным ящиком не прокатят.

Всегда можно упирать на статистику. Люди делают по трупу каждые x км, а наша система каждые 15X.

Люди несут ответственность за это. А кто несет в системе ответственность и каким образом?

Никто. Пора бы уже уходить от системы, в которой у каждого косяка есть виновный.

Дмитрий Анатольевич, залогиньтесь.

Ответственность — не главная ценность. Она вообще нужна только для того, что бы предотвращать инциденты в будущем. Поэтому малые дети и идиоты (в медицинском смысле) ответственности не несут — бесполезно, в предотвращении будущих инцидентов это не поможет.


Если реально в десять раз меньше аварий будет — это отлично, даже если вообще ответственности не будет. А она будет, как минимум финансовая (и это будет побуждать снижать количество аварий в сто раз).

Люди — не намного более прозрачные чёрные ящики. Какую полезную информацию можно получить из ответа «Я педаль перепутал(а)»? Непонятно будет ли человек и дальше путать педали.

Нейросеть можно по крайней мере дотренировать. Проблема пока в том, что способность к генерализации у существующих сетей отличается от человеческой. Ну и отсутствие мета-знания — знания о том, что сети известно, а что — нет.

Кроме того, насколько я знаю, высокоуровневые решения принимаются не нейросетью.
Человека можно расспросить, можно устроить ему экзамен на закрытом автодроме\трассе, да хоть в симуляторе, и посмотреть, насколько он владеет управлением, и не плавает ли где в теории. Нейросети тоже можно устроить экзамены, но в отличие от человека, она не расскажет, почему поступила вот так или вот эдак. Это не формализуемая программа, чтобы можно было переменные посмотреть. А человек, соблюдая некие правила, ПДД в нашем случае, все же формализует многие положения до простых алгоритмов. И свои «переменные» всегда может рассказать. Человека тоже можно дотренировать — курсы повышения квалификации, противоаварийные, экстремальные, как бы оно там ни называлось, это доп. обучение, и результаты его опять же можно проверить экзаменами, а не выпуская сразу на ДОП на грузовике.
Полностью нейросетевое управление (end-to-end) вроде бы никто пока не собирается ставить на машины. А в области распознавания образов, где нейросети применяются, и человек ничего толком не сможет объяснить. Так что непрозрачность — это не препятствие, если надёжность распознавания достаточная.
И если непрозрачность не препятствие, то встает в полный рост проблема поиска крайнего. А это во многих культурах заложено, в законах заложено, даже в морали. И это быстро не перебороть. Пока крайнего нет, но есть те, с кем можно пободаться за деньги — эта проблема будет стоять. Кирпич на стройке упал на голову — несчастный случай. Дерево в лесу упало и накрыло лесоруба — несчастный случай. Сель забрал автобус с 50 чел — несчастный случай. А они все будут орать, как убер сбил невидимого пешехода, или тесла перепутала небо с фургоном. Массам надо крайних, и возможно вы видели, как сжигают портрет Дурова. Вот это оно. И так далее и тому подобное. Пока это есть в мозгах, многие законодатели не согласятся чтоб виноватым был «никто». И естественно, выгодно, чтобы был крайний тот, кого можно посадить на кол и оторвать лапу. Если колесо машине с автопилотом оторвать-никто не поймет. А если устроить публичную порку в СМИ какой то компании — вот это будет телевизор…

У человека есть предел, до которого его можно дотренировать. Не каждый будет Шумахером. Нейросеть, в теории, может быть и лучше.

Мне кажется попытка сделать сразу сходу систему автоматического вождения это отчасти попытка прыгнуть через сразу несколько ступеней.
Лучше было бы развивать это через помощь человеку. Т.е. добавлять такие вещи которые будут ненавязчиво помогать человеку вести машину, при этом ответственность о выборе будет все еще лежать на человеке. Что-то настолько простое, но эфективное и надежное, без чего со временем будет казаться невозможно. И тут целый простор для идей. Авто-парковщики. Помощь в соблюдении правил движения и скоростного режима, дистанции. Автодиагностика ТС. Те вещи которые можно было бы втыкать даже в бюджетную комплектацию. При этом сделать упор на визуальном информировании. Обкатать все это к тому же на экстремальных сферах типа спортивных.
Тогда пользователи смогут дать обратную статистическую связь и контролировать насколько эфективны те или другие алгоритмы. Так постепенно перехватывая автоматизмы от человека и прийти к автоматическим автомобилям.
Они уже давно есть — автоторможение, контроль слепых зон, автокруиз (без подруливания — просто удержание дистанции до полной остановки), та же автопарковка. Да и диагностика сейчас достаточно на уровне (оповещение не всегда на уровне — просто лампочка «езжай в сервис», но это маркетинг).
Если же говорить о небольших населенных пунктах, удаленных от центров на десятки и сотни километров, то сколь-нибудь регулярное обновление просто невозможно.
Очень даже возможно.
Необходимо, чтобы робомобили обменивались картами — один проехал по дороге (под контролем водителя), и любой другой после этого сможет проехать по ней же, попутно обновляя всем остальным информацию о близлежащих объектах.
Ест даже патент где машины могут обмениваться информацией через фары модулированным светом.
Что тоже весьма спорно. Я проехал и аккурат за мной упало дерево, передав информацию о том что этот участок дороги безопасен для езды.
Карты служат для получения информации о том участке пути, который сейчас не виден.
Карты не содержат и не могут содержать информацию о безопасности участка дороги — а только о вещах вроде «по выезде из туннеля будет резкий поворот на 270 градусов» и «предыдущие авто проезжали этот участок в такую-то погоду с такой-то скоростью».

P.S. конечно, они могут содержать и информацию «там раньше стояло дерево», так что по его исчезновению АИ сможет предположить, что оно упало, и снизить скорость.
Небезопасно, настройки подвески и резины разные, квалификация водителей разная. Если один проехал на 60, то другой (тот же робот) уберётся на 40. Если там убитая грунтовка и у меня просвет 250, то не факт что с просветом 100 или 120 какой-нибудь чудак проедет, не считая того что там может быть не дорога. Слишком много переменных, официальные (и народные, но занесённые осмысленно) карты в этом плане сильно лучше.
PS. Правка орфографии, сам не знаю как такое слово написалось.
Мне одному кажется, что проблема с картами, описанная в статье, в текущих реалиях несколько выдуманная? Т.е. даже не пытались решать то, что успешно реализуется.
Мне по-прежнему кажется, что беспилотный автомобиль не так востребован, как этого хотелось бы многим компаниям. Я правда не понимаю в чем глобальная идея. На мой взгляд, это всегда будет слишком, слишком дорого и слишком сложно. Ведь у такой сложной машины, что-то будет зависать, глючить и т.д. — Это надо как минимум делать дублирующие системы (пардон, самолёт на колёсах уже выходит), а это увеличение бесполезной массы, которую нужно постоянно возить. И опять же увеличение сложности. А всё чего ради? Ради того, чтобы снизить кол-во аварий? Не вижу никакого потенциала к этому. Не будет робот выходить зимой на дорогу и одевать цепи на колёса. А вот даже персональный водитель, за грош цену — будет.

Не нужно это богатым, не будет здравый человек так рисковать своей жизнью. Бедным тоже не нужно — т.к. дорого. Среднему классу — тоже не нужно, ибо некогда в это вникать, нужно деньги зарабатывать.
А всё чего ради?
Например, ради:
+2-4 свободных часа каждый рабочий день каждому, кто ездит на своём авто на работу.
+свободные от припаркованных автомобилей пешеходные дорожки, так как авто сами возвращаются на свою стоянку.
-необходимость платить дальнобойщикам
-необходимость учитывать потребности водителей при проектировании грузовых транспортных средств. Кабина — не нужна, элементы безопасности — не нужны. В случае ЧП — смогут тормозить хоть с перегрузкой 500G, выстреливая якоря в дорогу.
+круглосуточная работа
Не будет робот выходить зимой на дорогу и одевать цепи на колёса. А вот даже персональный водитель, за грош цену — будет
Ни одному роботу не будет лень заехать на станцию одеть цепи. Ни одному роботу не захочется выпить горячительных напитков. Ни один робот не заснёт от усталости. Ни у одного робота не будет внезапных проблем с сердцем.
А вот вопрос на засыпку — почему ни один производитель робомобилей и/или автопилотов не оснащает машины световой сигнализацией? Простое же и дешевое решение. Едет авто под управлением автопилота — пусть сверкает как новогодняя ёлка. Все будут знать, что машина едет в автомате и та велосипедистка, которую Uber сбил — может бы и не вышла на дорогу, если бы видела приближающуюся цветомузыку
Этой велосипедистке может быть и всё равно, цветовая сигнализация может быть запрещена (или не отличаться от гирлянд на большегрузах), производители хотят подчеркнуть что робомобиль — обычный автомобиль, не нужно его бояться (делать отличающимся — прямо противоположное)
По-моему произволителям пока еще рано рекламировать и подчеркивать, что робомобиль — обычный автомобиль. По-моему сейчас самое время именно выделять их из общего трафика, тем самым рекламируя, пиаря и попутно предупреждая остальных участников ДД, о том, что данный авто управляется автономно.
Sign up to leave a comment.

Articles