Исследователям удалось обмануть автопилот в Tesla с помощью дешевого проектора
С помощью проектора за $300 исследователям удалось заставить автопилот в Tesla менять свое поведение.
Специалисты университета имени Давида Бен-Гуриона в Негеве (Израиль) и Технологического института Джорджии (США) продемонстрировали , как с помощью недорогого оборудования можно легко обмануть систему автопилота в дорогостоящих автомобилях Tesla.
С помощью проектора за $300, проецирующего нужные изображения, исследователям удалось заставить автопилот в автомобиле Tesla менять свое поведение. Когда на растущее у дороги дерево проецировалось изображение знака ограничения скорости, машина меняла скорость соответственно. При появлении очертаний человеческой фигуры автопилот принимал ее за реального человека и замедлял скорость. Что интересно, машина не останавливалась, а проезжала сквозь изображение.
Подобные «фантомные изображения» доказывают, что в настоящее время нельзя полагаться на компьютерное зрение, и полностью автопилотируемые автомобили пока не могут служить равнозначной заменой автомобилям, управляемым человеком.
«Мы продемонстрировали, как злоумышленники могут использовать эту проблему восприятия для осуществления фантомных атак [...] без физического доступа, путем проецирования фантомного изображения с помощью дрона, оснащенного портативным проектором, или путем отображения фантома на взломанном цифровом рекламном щите у дороги с подключением к интернету», - говорится в отчете исследователей.