Группа ученых из Института интеллектуальных систем Макса Планка установили, что беспилотник перестает определять объекты на дороге, если в поле зрение камеры попадает особый рисунок. Картинка представляет собой яркое пятно, в котором сочетаются несколько определенных цветов.
На то, чтобы вывести нужное сочетание цветов, у исследователей ушло всего несколько часов. Затем они наглядно продемонстрировали, как ведет себя «умная» система, когда встречает эту картинку, и предупредили, что реакция беспилотника может быть непредсказуемой. Например, машина резко свернет или затормозит.
Выявленная уязвимость обеспокоила ученых. Они опасаются, что в скором будущем, когда беспилотный транспорт получит массовое распространение, этой «обманкой» могут воспользоваться хакеры. Даже маленькое изображение, нанесенное на футболку, может нарушать работу нейронных сетей и привести к катастрофическим последствиям. В настоящее время исследователи работают над решением этой проблемы.