С ростом обеспокоенности по поводу кибербезопасности, разработчики робототехники получают новые инструменты для тестирования своих систем в симуляции. VicOne Inc. представила бесплатное расширение VicOne Radeis для NVIDIA Isaac Sim, которое позволяет разработчикам тестировать, как различные сценарии атак могут повлиять на поведение их роботизированных моделей.

Переход к масштабированию

По словам Макса Ченга, генерального директора VicOne, "робототехнические компании переходят от проверки отдельных случаев использования к развертыванию роботов в реальных условиях на большом масштабе". В связи с этим, индустрия должна не только подтверждать, что роботы функционируют так, как задумано, но и проверять, остаются ли они надежными, когда цифровые системы, от которых они зависят, подвергаются компрометации. "Кибербезопасность должна стать стандартной частью разработки робототехники", — добавил он.

Опыт VicOne в кибербезопасности

VicOne, основанная в 2022 году, строит свою кибербезопасность для физического ИИ на опыте в автомобильной отрасли. Дочерняя компания Trend Micro утверждает, что ее программное обеспечение и услуги могут защитить цифровые системы, которые определяют, как транспортные средства и роботы видят, принимают решения и действуют. VicOne помогает производителям оригинального оборудования (OEM), поставщикам первого уровня, производителям роботов и операторам рано выявлять киберриски, оценивать их потенциальное влияние на безопасность и защищать системы в эксплуатации.

Результаты тестирования на DEF CON

На конференции DEF CON 34 в рамках сообщества Robotic Hacking, VicOne провела тестирование безопасности физического ИИ, где исследователи безопасности проверяли, как цифровые компрометации могут изменить поведение роботов в контролируемых условиях. В ходе испытаний были изучены пути атак через модели ИИ, восприятие, облачные и API-сервисы, коммуникации в робототехнике и встроенные системы. Участники использовали платформы Reachy Mini и LeKiwi для изучения влияния уязвимостей кибербезопасности на физическое поведение роботов.

Повышение устойчивости кибербезопасности

VicOne изучила неудачные попытки атак и новые предположения о путях атак, чтобы уточнить сценарии, связанные с манипуляцией визуальными данными, захватом команд, отравлением политик ИИ и эксплуатацией подключенных интерфейсов. Тестирование этих условий на уровне системы позволяет командам определить, могут ли уязвимости отдельных компонентов в конечном итоге изменить поведение всего робота. На DEF CON 34 16 команд зафиксировали 25 успешных решений, что подтверждает необходимость оценки кибербезопасности на уровне системы, а не только в изоляции.

Применение исследований к тестированию

Каждая попытка атаки может способствовать усилению защиты. Успешная попытка может выявить путь от цифрового компромета до изменения поведения робота, в то время как неудачная попытка может раскрыть предположения атакующих или пути управления, требующие дальнейшей проверки. VicOne переводит эти выводы в структурированные сценарии, которые разработчики могут повторять по мере эволюции программного обеспечения, датчиков, моделей ИИ и архитектур управления.

Возможности расширения Radeis

Используя бесплатное расширение, разработчики могут:

Импортировать свою модель робота и запланированную задачу в NVIDIA Isaac Sim.

Применять отобранные сценарии, основанные на исследованиях безопасности физического ИИ и выводах DEF CON.

Проверять, сохраняется ли устойчивость модели визуального языка (VLM) к враждебным визуальным подсказкам и манипуляциям датчиками.

Повторять тесты по мере изменения моделей, программного обеспечения и путей управления.

NVIDIA Isaac Sim предоставляет физически основанную среду для проектирования, симуляции, тестирования и валидации ИИ-управляемых роботов. Расширение VicOne Radeis добавляет сценарии кибербезопасности и наблюдение за влиянием на поведение к существующим рабочим процессам симуляции, что помогает командам исследовать связанные с безопасностью крайние случаи перед переходом к физическим испытаниям или развертыванию.

Доступность расширения

VicOne утверждает, что Radeis предоставляет командам робототехники практическую отправную точку для изучения рисков кибербезопасности. Бесплатное расширение для NVIDIA Isaac Sim может помочь инженерным, безопасностным и охранным командам обсуждать риски через видимые результаты работы робота, а не рассматривать уязвимости только как абстрактные программные находки. Для организаций, требующих более широкого анализа, VicOne Radeis является решением для валидации кибербезопасности перед развертыванием, оценивающим риски компонентов, систем и моделей ИИ, а также последствия уязвимостей и сценариев атак на поведение интегрированного робота. Полное решение Radeis поддерживает более глубокие исследования, планирование устранения проблем, принятие решений о выпуске и готовность к соблюдению норм. VicOne Radeis Extension для NVIDIA Isaac Sim доступно для бесплатной загрузки для разработчиков, использующих поддерживаемые версии NVIDIA Isaac Sim.