В вашей машине есть призраки: исследователь кибербезопасности может сделать автомобили с самостоятельным вождением галлюцинацией

Кредит: Мэтью Модуно/Северо -Восточный университет

Вы когда -нибудь видели темную форму за угол глаза и думали, что это человек, только чтобы вздохнуть с облегчением, когда вы поймете, что это стойка для пальто или другой безобидный предмет в вашем доме?Это безобидный трюк глаз, но что произойдет, если бы этот трюк был сыгран на чем -то вроде автономной машины или беспилотника?

Этот вопрос не гипотетический.Кевин Фу, профессор инженерных и компьютерных наук, который специализируется на поиске и эксплуатации новых технологий в Северо-Восточном университете, выяснил, как сделать автомобили с самостоятельным вождением, Элон Маск хочет поставить на дорогу галлюцинацию.

Раскрывая совершенно новый вид кибератаки, «акустической состязательной» формы машинного обучения, которую Фу и его команда удачно назвали Полтергейстские атаки, Фу надеется опередить, как хакеры могут использовать эти технологии - с катастрофическими последствиями.

«Есть так много вещей, которые мы все считаем само собой разумеющимся», - говорит Фу.«Я уверен, что я делаю и просто не осознаю, потому что мы абстрагируем вещи, иначе вы никогда не сможете выходить на улицу … Проблема с абстракцией заключается вЭти предположения. Там может быть шанс на один из миллиардов, но в компьютерной безопасности противник делает это на миллиард соблюдать 100% времени ».

Poltergeist - это больше, чем просто глушиние или вмешательство в технологии, такие как некоторые другие формы кибератак.Фу говорит, что этот метод создает «ложные когерентные реалии», оптические иллюзии для компьютеров, которые используют машинное обучение для принятия решений.

Подобно работе FU по извлечению звука из неподвижных изображений, Poltergeist использует оптическую стабилизацию изображения, обнаруженную в большинстве современных камер, от смартфонов до автономных автомобилей.Эта технология предназначена для обнаружения движения и дрожания фотографа и регулировки объектива, чтобы фотографии не были размытым беспорядком.

“Обычно, это используется для деблура, но поскольку у него есть датчик внутри него, и эти датчики сделаны из материалов, если вы попадаете на акустическую резонансную частоту этих материалов, как оперный певец, который попадает на высокую ноту, которая разбивает виноСтекло, если вы нажмете правильную ноту, вы можете заставить этих датчиков почувствовать ложную информацию », - говорит Фу.

Выяснив резонансные частоты материалов в этих датчиках, которые обычно являются ультразвуковыми, Фу и его команда могли вместо этого стрелять в подходящие звуковые волны к объективам камеры и размытыми изображениями.

«Тогда вы можете начать делать эти фальшивые силуэты из размытых узоров», - говорит Фу.«Тогда, когда у вас есть машинное обучение, скажем, автономное средство, он начинает неправильно использовать объекты».

Изучая этот метод, Фу и его команда смогли добавить, удалять и изменять, как автономные автомобили и беспилотники воспринимали их среду.Для человеческого глаза размытые образы, которые производит атака Полтергейста, могут выглядеть не так.Но, нарушая алгоритм обнаружения объектов без водителя, силуэты и фантомы, вызванные атаками Полтергейста, превращаются в людей, остановки знаков или того, что злоумышленник хочет, чтобы автомобиль видел или не видел.

По словам Фу, для смартфона последствия являются значительными, но для автономных систем, установленных на быстро движущихся транспортных средствах, последствия могут стать ужасными.

В качестве одного примера, Фу говорит, что можно сделать автомобиль без водителя, увидев знак остановки, где его нет, потенциально приведя к внезапной остановке на оживленной дороге.Или атака Полтергейста может «обмануть машину в снятие предмета», включая человека или другую машину, заставив машину катиться вперед и пройти через этот «объект».

«Это зависит от гораздо большего, например, программного стека, но он начинает показывать трещины в плотине того, почему мы доверяем этому машинному обучению», - говорит Фу.

Фу надеется увидеть, как инженеры разрабатывают эти виды уязвимостей в будущем.Если это не так, так как машинное обучение и автономные технологии становятся более распространенными, Фу предупреждает, что эти угрозы станут большей проблемой для потребителей, компаний и мира технологий в целом.

«Технологи хотели бы, чтобы потребители, охватывающие новые технологии, но если технологии не будут действительно терпимы к таким угрозам кибербезопасности, они не будут уверены и не будут их использовать», - говорит Фу.«Тогда мы увидим неудачу в течение десятилетий, когда технологии просто не используются».