Развитие физического ИИ создает новые риски безопасности, которые не всегда учитываются традиционными методами тестирования. Согласно отчету, злоумышленники могут влиять на действия роботов, манипулируя их восприятием или данными, при этом сама система может продолжать функционировать штатно. Исследователи выделяют три уровня атак: внедрение скрытых триггеров в модели (например, BadVLA или GoBA), использование уязвимостей в системном стеке (таких как Bluetooth-эксплойт UniPwn) и манипуляции на этапе выполнения, включая использование вредоносных промптов или визуальных патчей, которые могут остановить цикл принятия решений робота. Эксперты подчеркивают, что кибербезопасность должна стать неотъемлемой частью жизненного цикла робототехники. Традиционные проверки функциональной безопасности недостаточны, так как атаки могут не вызывать ошибок в компонентах, но приводить к опасным действиям. Рекомендуется внедрять комплексный подход, включающий сканирование моделей, валидацию в симуляторах (например, NVIDIA Isaac Sim) и непрерывный мониторинг поведения роботов в реальном времени.
Исследователи предупреждают о новых угрозах безопасности роботов с ИИ
Современные роботы уязвимы для атак, которые меняют их поведение без видимых сбоев системы. Эксперты выделяют три уровня угроз: от манипуляций с моделями ИИ до уязвимостей в инфраструктуре и среде исполнения.




