В последние годы использование агентного искусственного интеллекта (ИИ) в бизнес-процессах стало обычным делом. Однако с увеличением его внедрения возникают новые вызовы, связанные с безопасностью данных. Рассмотрим один из таких сценариев, который иллюстрирует необходимость эволюции управления ИИ.

Сложности с данными в агентном ИИ

Представьте себе ситуацию, когда торговый представитель запрашивает у ИИ-агента информацию о ценах для клиента. Агент, используя данные из различных источников — ограниченных систем ценообразования, внутренних коммуникаций и архивных предложений — формирует ответ. На первый взгляд, информация кажется точной, и другой агент использует её для подготовки предложения для торгового представителя. Однако ни один человек не проверяет эти данные на этапе передачи. Когда позже оказывается, что предложение содержит неутвержденную, конфиденциальную и чувствительную информацию, становится невозможно отследить, откуда именно попали эти данные в рабочий процесс и как они распространились по системам, файлам и агентам. Этот сценарий подчеркивает, что управление ИИ должно развиваться быстро и динамично.

Проблемы традиционных подходов к безопасности

С увеличением числа предприятий, использующих агентный ИИ в повседневной работе, становится очевидным, что необходимо управлять не только статичными файлами, но и движущимися, фрагментированными данными. Эти данные постоянно поглощаются, копируются, обобщаются, трансформируются, повторно используются и перераспределяются в новых формах. В этом контексте безопасность ИИ не является проблемой инструментов; это проблема видимости данных. Традиционные подходы к безопасности, которые сосредоточены исключительно на приложениях, системах, сетях или конечных точках, больше не являются достаточными. Для обеспечения безопасности агентного ИИ в масштабах предприятия необходимо понимать, как данные перемещаются.

Установление линии данных для управления

Команды должны установить «линию данных», чтобы эффективно управлять управлением, ответственностью и доверием в рамках человеческих, агентных и гибридных рабочих процессов. Это означает, что необходимо создать четкие механизмы отслеживания и контроля данных на всех этапах их обработки и передачи. В условиях, когда данные могут быстро перемещаться и изменяться, важно иметь возможность не только отслеживать их источник, но и понимать, как они используются и перераспределяются. Это требует внедрения новых стратегий и технологий, которые обеспечат прозрачность и контроль над данными.

Заключение

С учетом всех вышеперечисленных факторов, становится очевидным, что управление данными в эпоху агентного ИИ требует комплексного подхода. Необходимо пересмотреть существующие методы безопасности и адаптировать их к новым реалиям, чтобы избежать потенциальных утечек и обеспечить защиту конфиденциальной информации. В противном случае, как показывает практика, последствия могут быть серьезными и трудно предсказуемыми.