Автопилот Tesla удалось обмануть проектором
Системы полуавтономного вождения, которые представляют собой набор электронных ассистентов, на сегодняшний день способны разгонять и замедлять автомобиль, удерживать его в полосе, отслеживать дорожные знаки и избегать столкновений с препятствиями. Чтобы усовершенствовать работу так называемых автопилотов, хотя это слово и не вполне корректно употреблять, специалисты проводят различные испытания и пытаются так или иначе обмануть системы.
Учёные из Университета Бен-Гуриона (Израиль) выяснили, что ввести в заблуждение систему полуавтономного вождения Autopilot на кроссовере Tesla Model X можно довольно простым способом: при помощи изображений, выводимых на дорогу и стены обычным портативным проектором. Исследователи разместили на тротуаре проектор, с помощью которого последовательно выводили на асфальт изображения пешехода и изменённой разметки.
В результате Tesla переехала виртуального пешехода, распознав в изображении человека лишь в самый последний момент, когда тормозить было уже поздно, но в случае с фальшивой дорожной разметкой получилось ещё интереснее: кроссовер «увидел» её и последовал по нарисованным на асфальте линиям, уехав на встречную полосу. Потенциально это могло обернуться аварией с тяжкими последствиями.
В качестве защиты от подобных атак исследователи предлагают разработчикам систем полуавтономного вождения обучать нейросети фильтровать объекты и вычислять среди них фальшивые на основании контекста их расположения, относительного размера, освещения и текстуры. Специалисты отметили, что отправили результаты проведённых испытаний в Tesla, однако американцы отказались их комментировать и ответили, что электроника Model X была модифицирована.
