Современные роботы, будь то мобильные устройства, коллаборативные манипуляторы или гуманоиды, принимают решения на основе информации о своем окружении. Они реагируют на данные о расстоянии, оценке положения или сигналах остановки. Однако что произойдет, если одно из этих входных данных окажется неверным? Например, мобильный робот может ошибочно считать коридор свободным, в то время как кто-то все еще находится на его пути. В таких случаях ошибки могут быть вызваны как случайными сбоями, так и преднамеренной манипуляцией.

Влияние ненадежных данных на поведение роботов

Исследования показывают, что манипуляция с входными данными может значительно изменить поведение робота. В одном из экспериментов, проведенном в VicOne LAB R7, текст на плакате был воспринят роботом как инструкция, что изменило его движение. В другом тесте, использующем аудиосигналы, которые не слышны человеку, поведение сервисного робота в больнице также изменилось из-за подделанных звуковых данных. Эти примеры подчеркивают, как визуальные и аудиовходы могут нарушать выполнение задач роботами.

Уязвимости и атаки на системы безопасности

Системы безопасности роботов зависят от точности входных данных. Например, на мероприятии по поиску уязвимостей в робототехнике исследователи внедрили сообщение ROS 2/DDS в робота, который должен был оставаться неподвижным. В результате робот начал двигаться. Это демонстрирует, как преднамеренные атаки могут нарушить нормальное функционирование систем безопасности. Также стоит отметить, что если балансирующий контроллер гуманоидного робота полагается на уязвимый гироскоп, звук на резонирующей частоте может исказить его показания, что приведет к неверной коррекции.

Пересмотр оценок рисков

Оценки безопасности часто основываются на предположении о том, что случайные сбои маловероятны. Однако преднамеренная манипуляция меняет это предположение. Атакующий может выбрать момент для введения ложного входа и повторять его. Это не означает, что вред неизбежен, но меняет подход к оценке киберрисков. Например, в исследованиях автономного вождения физический объект был использован для обмана системы, комбинирующей данные с камеры и LiDAR. Это подчеркивает необходимость тестирования на возможность манипуляции несколькими входами одновременно.

Укрепление доказательств безопасности роботов

Команды безопасности устанавливают ограничения на скорость, защитные расстояния и разрешенные зоны работы. Доказательства, подтверждающие эти ограничения, должны учитывать, что происходит, когда информация, используемая для их соблюдения, намеренно манипулируется. Например, в Китае стандарт GB/T 45502-2025 касается информационной безопасности сервисных роботов, а IEC TS 63074 исследует угрозы безопасности, которые могут повлиять на системы управления, связанные с безопасностью. Каждое из этих требований требует наличия доказательств для проектирования и условий эксплуатации робота.

Пять ключевых вопросов для команд безопасности и безопасности

Чтобы обеспечить защиту людей, команды безопасности и безопасности должны ответить на следующие вопросы: 1. Что считывает каждая защитная функция? Необходимо составить карту показаний, оценок, сообщений и подтверждений. 2. Как эта информация поступает? Проверить, как формируются, передаются и обрабатываются входные данные. 3. Что произойдет, если вход будет манипулирован? Тестировать ложные расстояния и другие сценарии. 4. Может ли одно действие ввести в заблуждение несколько входов? Проверить, есть ли общая точка отказа. 5. Когда следует пересмотреть доказательства? Переоценка должна проводиться после изменений в программном обеспечении, моделях или условиях эксплуатации. Цель состоит не только в том, чтобы показать, что защитная функция работает, но и в том, чтобы подтвердить, что она остается эффективной даже при манипуляции входными данными. VicOne LAB R7 активно работает над укреплением безопасности роботов, сотрудничая с исследователями и предоставляя инструменты для тестирования и мониторинга в процессе эксплуатации.