Агентный хардварс управляет программным циклом между моделью ИИ и ее инструментами, определяя контекст, разрешения и ограничения, которые формируют возможности пользователей. Рассмотрим два ИИ-ассистента для планирования встреч: один может редактировать повестки, а другой — проверять календари участников, находить свободное время и отправлять приглашения. Оба используют одну и ту же модель ИИ, но их возможности значительно различаются. Эти различия зависят от программного обеспечения, которое окружает и поддерживает модель ИИ, известного как хардварс.

Что такое агентный хардварс?

Агентный хардварс (также называемый агентным хардварсом или просто хардварсом) — это программное обеспечение, которое управляет циклом выполнения модели ИИ. Он выполняет запросы модели на использование инструментов, возвращает результаты и контролирует, какую информацию модель получает и что ей разрешено делать. В своей основе большая языковая модель (LLM) генерирует данные, предсказывая, что будет дальше в последовательности. Она может формировать структурированные запросы для проверки календаря или отправки приглашений, но не может выполнять эти действия самостоятельно. Для этого ей необходимо запрашивать другие приложения, выводя команды. Хардварс обрабатывает каждый такой запрос: проверяет разрешения, вызывает соответствующий инструмент и возвращает результат модели ИИ. Затем модель может запросить другое действие или вернуть вывод конечному пользователю. Этот цикл запросов, действий и результатов называется циклом выполнения.

Задачи, выполняемые хардварсом

Помимо управления циклом выполнения, агентный хардварс поддерживает работу модели, выполняя следующие задачи:

Поставка контекста: Хардварс собирает контекст, необходимый модели ИИ для выполнения задачи, включая запрос пользователя, инструкции разработчиков, предыдущие сообщения, сохраненные предпочтения и информацию из подключенных календарей или документов.

Соединение инструментов и соблюдение разрешений: Хардварс позволяет модели ИИ извлекать информацию из различных инструментов и выполнять действия, выходящие за рамки простого вывода текста. Чтение календаря, проверка доступности коллег и отправка приглашений — все это операции, которые могут требовать различных разрешений.

Предоставление инструкций и соблюдение ограничений: Хардварс предоставляет инструкции, которые направляют работу модели, и устанавливает ограничения по времени, стоимости и количеству шагов, которые модель может предпринять перед тем, как вернуться к пользователю.

Почему хардварс важен для пользовательского опыта

Конфигурации хардварса влияют на то, что может сделать продукт ИИ, и на то, сколько работы пользователи должны выполнять самостоятельно. Многие решения, связанные с хардварсом, включают в себя компромиссы в области инженерии или продукта, которые напрямую сказываются на пользовательском опыте. Практики UX должны помогать определять поведение, необходимое пользователям, и оценивать, поддерживает ли вся система ИИ это поведение.

Когда использовать ИИ, проверьте, поддерживает ли продукт задачу

Знание о том, какую модель ИИ использует продукт, не говорит вам о том, может ли его хардварс поддерживать вашу конкретную задачу. Проверьте его подключения, разрешения и ограничения работы. Продукт для планирования встреч без доступа к соответствующим календарям может оставить пользователя с необходимостью самостоятельно копировать доступность и отправлять приглашения.

При проектировании ИИ-опыта указывайте поведение наряду с интерфейсом

Определите, как система выполняет действия, доступные в интерфейсе. Если новый соединитель открывает множество возможностей чтения и записи, работайте с инженерами, чтобы установить разумные значения по умолчанию и спроектировать диалоги разрешений, которые увидят пользователи. Например, если пользователи могут пометить пятницы как недоступные, определите, как хардварс сохраняет это предпочтение и передает его модели ИИ.

При оценке ИИ-опыта тестируйте всю задачу

При проведении оценок ИИ тестируйте всю задачу, которую поддерживает ваш ИИ-опыт, используя реалистичный контекст, инструменты и разрешения. Для ИИ-ассистента по планированию встреч то, как агент пишет приглашение, не доказывает, что система успешно проверяет доступность или ждет одобрения. Включите тесты, в которых пользователь отключает подключение календаря, меняет предпочтения или когда нет времени, подходящего для всех. Агентный хардварс формирует то, что может сделать продукт ИИ, и то, сколько работы пользователи выполняют самостоятельно. Его контекст, инструменты, инструкции и ограничения являются решениями в области продукта и инженерии, которые имеют реальные последствия для пользовательского опыта. Понимание цикла выполнения дает практикам UX возможность задавать вопросы о том, какую информацию получает модель ИИ, какие действия могут выполняться и когда система должна остановиться или вовлечь пользователя.