SafeWorld, стартап из Окленда, Калифорния, недавно вышел из режима скрытого существования, объявив о привлечении 12,2 миллиона долларов в рамках начального раунда финансирования. Основная цель компании — упростить процесс тестирования безопасности для роботов, работающих на базе искусственного интеллекта, с помощью своей технологии симуляции. Основатель и CEO SafeWorld, Кайл Вонг, отметил, что с увеличением возможностей роботов необходимо также улучшать методы их тестирования и валидации. "Если вы собираетесь использовать более способных роботов, имеет смысл иметь более совершенные способы их тестирования", — добавил он в интервью изданию The Robot Report.

Исторический контекст и необходимость в новых решениях

По словам Динга Чжао, соучредителя SafeWorld и директора Safe AI Lab в Университете Карнеги-Меллон, использование роботов в различных отраслях продолжается уже около ста лет. Однако с приходом искусственного интеллекта автоматизация достигла нового уровня. "Роботы впервые получили возможность выходить за пределы своих ограниченных пространств и взаимодействовать с людьми", — отметил он. Это взаимодействие требует нового уровня понимания со стороны роботов, что и стало основным направлением работы SafeWorld.

Финансирование и поддержка

Раунд финансирования возглавили Shine Capital и a16z Speedrun, в нем также приняли участие Box Group, Эндовмент Университета Карнеги-Меллон, Innovation Endeavors, SV Angel и другие ведущие венчурные капиталисты и ангельские инвесторы. SafeWorld стремится облегчить создание безопасных систем для компаний, занимающихся робототехникой. На данный момент стартап уже имеет клиентов в таких отраслях, как промышленность, производство, логистика, строительство и даже в некоторых домашних приложениях.

Платформа SafeWorld

SafeWorld предлагает предприятиям масштабируемый способ тестирования поведения роботов в редких, опасных и неожиданных ситуациях, не подвергая риску людей. "Эти сценарии безопасности еще не существовали в реальном мире", — сказал Вонг. "Как же тогда подготовить робота к ситуации, для которой нет широкого набора данных? Это большая проблема". Платформа SafeWorld позволяет командам создавать сценарии прямо в браузере, используя данные о прошлых инцидентах, стандарты безопасности и журналы роботов, без необходимости в экспертизе в области симуляции. Система проводит тестирование робота в тысячах вариаций с реалистичным и реактивным движением человека, измеряя показатели безопасности. Поскольку каждое обновление программного обеспечения и новая среда могут вносить новые риски, команды могут повторно запускать эти тесты непрерывно, а не только один раз перед запуском. В результате получается надежный отчет по безопасности, который могут поддерживать руководители инженерных, безопасностных и операционных подразделений.

Когда начинать работать с SafeWorld?

Для некоторых разработчиков роботов может быть сложно определить, когда стоит начать инвестировать в безопасность. Если начать слишком рано, система может значительно измениться до выхода в реальный мир, что сделает большую часть работы бесполезной. Однако, если начать слишком поздно, это может задержать развертывание. Вонг отметил, что если срок развертывания составляет менее одного года, стоит задуматься о безопасности. Если же срок превышает год, возможно, это слишком рано.

Разные подходы к безопасности

Вонг выделил два типа компаний в области AI-робототехники. Первая категория включает компании, которые интегрируют AI в уже существующие роботы, такие как Caterpillar. Для них безопасность важна с первого дня, так как у них уже есть работающие устройства. Вторая категория — компании, которые разрабатывают программное обеспечение для роботов. Для них безопасность становится актуальной позже, когда начинается работа в реальном мире, но проактивный подход к безопасности может помочь упростить процессы в будущем.

Будущее SafeWorld

Согласно планам SafeWorld, привлеченные средства будут использованы для углубления внедрения, расширения команды и продвижения исследований в области безопасности в индустрии. "Мы действительно пытаемся углубиться в принятие на уровне предприятий и работать с нашими корпоративными клиентами", — отметил Вонг. Также компания планирует продвигать различные исследования и открытые проекты, находящиеся на переднем крае безопасности AI. Динг и Вонг согласны, что наличие третьих сторон, таких как SafeWorld, может помочь создать доверие среди других заинтересованных сторон. "Часть причины, по которой третья сторона здесь очень полезна, заключается в том, что есть инженерная часть безопасности и часть доверия, и вам нужно то и другое для развертывания", — добавил Вонг.