VK AI Space научила автономных ИИ-агентов следовать регламентам компаний

VK Tech добавила в платформу VK AI Space возможность использовать хуки – контрольные точки, которые позволяют задать жесткий регламент работы автономным ИИ-агентам.

Хуки – специальные точки контроля, в которых ИИ-агент прерывает автономную работу и выполняет заранее прописанное действие. Механизм позволяет компаниям устанавливать жесткие правила и четкие границы самостоятельности алгоритмов, предотвращая потенциальные риски и ущерб. Хуки гарантируют, что агент всегда будет следовать заданному алгоритму: например, не раскроет персональные данные в ответе внешнему пользователю, не предложит скидку сверх допустимого лимита или не начнет диалог без проверки истории сообщений и статуса клиента. Количество возможных сценариев применения практически неограниченно.

Технически хук представляет собой небольшой скрипт, который создатель ИИ-агента загружает в платформу VK AI Space. В заданных точках система передает скрипту контекст запроса (информацию о пользователе, намерениях агента и используемых данных), после чего на основе прописанных правил агент получает инструкцию: пропустить действие, изменить его или отменить. Контроль осуществляется перед запуском агента (добавление данных в инструкцию или отмена старта), обращением к внешней системе (корректировка или блокировка запроса), после получения ответа от внешней системы и после формирования финального ответа модели (возможность его редактирования или запрета отправки). Используя хуки, бизнес получает гибкий инструмент для управления зонами ограниченной автономности, включая проверку прав, вызов внутренних сервисов, передачу решения человеку или логирование событий.

Роман Стятюгин, директор по ИИ- продуктам VK Tech:

Главное препятствие для масштабирования автономных агентов в бизнесе – риски, связанные с непредсказуемым поведением. Хуки в VK AI Space – программируемый слой поверх агента, который переводит любое корпоративное правило в гарантированное: то, что промпт оставляет на усмотрение модели, хук выполняет всегда. Создатель агента может быстро изменить такое правило своими силами, без доработок платформы, и самостоятельно выбрать не только точку срабатывания, но и приоритет – хуки выполняются последовательно, от меньшего к большему, что даёт полную прозрачность логики.

Если навыки, память и мультиагентные сценарии расширяют возможности агентов, то хуки задают им жёсткие рамки и контролируют каждое действие. Это принципиально меняет подход к доверию: чем чётче заданы границы, тем больше самостоятельности можно дать агенту, расширяя его полномочия без увеличения рисков. В итоге бизнес получает не только безопасность, но и возможность гораздо быстрее выводить агентов в продакшн.

Напомним, ранее в июле в VK AI Space появилась многоуровневая память для корпоративных AI-агентов.

Источник: пресс-релиз VK