Аспирант из Израиля показал, как можно обмануть автопилот Tesla при помощи проектора за $200

Car GadgetsTransport
image

Бен Насси, аспирант Университета Бен-Гуриона, под руководством профессора Ювала Эловичи провел серию успешных спуфинговых атак (атак подмены) на систему помощи водителю Mobileye 630 Pro с использованием недорогих беспилотников и проекторов с батарейным питанием.

Теперь же аспирант провел аналогичные эксперименты с Tesla Model X. Он представит результаты своей работы на конференции Cybertech Israel в Тель-Авиве.

Студенту удавалось имитировать атаки благодаря разнице между распознаванием изображений человеком и ИИ. По большей части изображения, которые Насси и его команда спроектировали, чтобы обмануть Tesla, не ввели бы в заблуждение типичного человека-водителя.

Видео Насси описывает опасность ложных атак, которые он назвал «Призрак ADAS».


Все эксперименты проводились с участием помощника, держащего проектор, из-за законов о запрете беспилотников. Однако отмечается, что поддельную атаку можно осуществить и при помощи дрона.

При этом команда использовала несколько проекторов стоимостью от $200 до 300, один из которых был рассчитан только на разрешение 854x480 и 100 люмен. В худшем варианте эксперимента Tesla пыталась следовать фальшивым маркерам на дороге.

Однако проблема не в том, что автопилот можно обмануть, а в том, что, как показал опрос 2019 года, почти половина водителей полагают, что можно безопасно снимать руки с руля, когда включен автопилот, а 6% ответили, что можно даже вздремнуть. При этом сама Tesla в описании системы подчеркивает, что автопилот предназначен для использования только с полностью внимательным водителем, который держит руки на руле и готов вступить в управление в любое время. В нынешнем виде автопилот не является системой с самостоятельным управлением, он не превращает Tesla в автономное транспортное средство и не позволяет водителю отказаться от ответственности. При правильном использовании он снижает общую нагрузку на водителя, а восемь внешних камер, радар и 12 ультразвуковых датчиков обеспечивают дополнительный уровень безопасности.

Ранее Национальное управление безопасности движения на трассах США опубликовало петицию, которая содержит 127 обращений владельцев Tesla с жалобами на аварии, которые произошли из-за внезапного увеличения скорости электромобиля при парковке в гараже или на обочине, а также во время движения при срабатывании системы помощи водителю. Авторы жалоб потребовали провести официальное расследование и отозвать электрокары Tesla Model S 2012-2019 годов выпуска, Tesla Model X 2016-2019 годов выпуска и Tesla Model 3 2018-2019 годов выпуска (почти 500 тысяч машин). Однако Tesla заявила, что все потенциальные инциденты изучили при помощи данных бортовых систем и пришли к выводу, что автомобиль вел себя в соответствии с ситуацией.
См. также: «Промышленные дизайнеры о Tesla Cybertruck: почему он такой, что в нем хорошо, а что плохо»
Tags:teslatesla model xизраильавтопилотпроекторыдроныатаки
Hubs: Car Gadgets Transport
+27
20.4k 9
Comments 71

Popular right now

Инженер технической поддержки
from 32,000 ₽ITM ХолдингЕкатеринбург
Начальник отдела управления инцидентами СПД
from 80,000 ₽ITM ХолдингЕкатеринбург
Full-Stack JavaScript developer
from 5,000 to 6,500 $LuminatiRemote job
Инженер-администратор Linux
from 52,000 ₽ITM ХолдингЕкатеринбург
Visual Designer for Whisk, remote
from 4,000 $WhiskRemote job