Skip to content

AWS запустила систему оценки качества ИИ-агентов в реальном времени

Короткий ответ

AWS выпустила AgentCore Evaluations — инструмент мониторинга, который в реальном времени оценивает качество, точность и безопасность ИИ-агентов в продакшене, в паре с DevOps Agent для автоматизированного устранения проблем. Это важно, потому что сегодня сбои агентов чаще всего вскрываются только после жалоб клиентов — новый инструмент закрывает этот разрыв постоянными автоматическими проверками.

Что это значит для операций

Если в вашей компании ИИ-агент обрабатывает обращения в поддержку, квалифицирует лиды или запускает рабочие процессы, вы, скорее всего, не видите, ухудшается ли качество его ответов со временем — обновление модели, новый пограничный случай или изменение документации может незаметно сломать логику работы. AgentCore Evaluations позволяет задать пороги качества (точность, релевантность, безопасность) и получать автоматические оповещения, когда продакшн-агент начинает деградировать, вместо того чтобы узнавать об этом через три недели из эскалации от клиента. Для компании на 10-200 человек без отдельной команды ML-мониторинга это разница между обнаружением сломанного бота поддержки за считанные часы и узнаванием о проблеме от разгневанного клиента.

AWS опубликовала подробности об AgentCore Evaluations — новой возможности мониторинга ИИ-агентов после их вывода в продакшен, в сочетании с DevOps Agent для автоматического реагирования на обнаруженные проблемы.

Суть проблемы, которую решает этот инструмент: команды, создающие агентов на Bedrock AgentCore, обычно тщательно тестируют их перед запуском, но располагают ограниченными инструментами для отслеживания того, как агент работает при реальном трафике. Поведение модели может меняться из-за обновлений базовой модели, изменений в данных, из которых агент извлекает информацию, или просто из-за пограничных случаев, не охваченных тестированием. AgentCore Evaluations запускает непрерывную оценку по настраиваемым метрикам — включая завершённость задач, релевантность ответов и безопасность — и выводит результаты через дашборды и оповещения.

Компонент DevOps Agent добавляет автоматизированную триаж-логику: когда показатели отслеживаемого агента опускаются ниже установленного порога, он может запускать процессы расследования или устранения проблем, а не требовать, чтобы человек первым заметил это на дашборде.

Это часть более широкой тенденции среди облачных провайдеров и фреймворков для агентов — рассматривать мониторинг в продакшене как обязательное требование для агентного ИИ, а не как второстепенную задачу. По мере того как всё больше компаний переводят ИИ-агентов из пилотной стадии в продакшен для клиентских и операционных задач, отсутствие наблюдаемости во время выполнения стало постоянным пробелом — командам, как правило, приходилось выстраивать собственные системы логирования и проверки, чтобы отлавливать регрессии качества.

Для компаний, уже работающих на инфраструктуре AWS, это снижает объём инженерной работы, необходимой для базового мониторинга в продакшене. Компании на других платформах или с самостоятельно размещёнными стеками агентов не получат именно этот инструмент, но релиз сигнализирует, что оценка во время выполнения становится ожидаемой функцией инфраструктуры для агентов, и покупателям, оценивающим платформы для агентов, стоит спрашивать у поставщиков, есть ли у них эквивалентный мониторинг.

В исходном материале не подтверждены детали ценообразования или сроки общедоступности за пределами объявления в блоге; командам, заинтересованным во внедрении, следует проверить актуальную документацию AWS о статусе развёртывания и стоимости, прежде чем строить на этом планы.

Источник: AWS Machine Learning Blog

Следующий шаг

Visibility Analyzer

Ровно это Visibility Analyzer и меряет на живом сайте: в каких ответах вас цитируют, до каких страниц движок не дотягивается и что чинить первым. Запуск бесплатный.

Запустить бесплатный аудит видимости

Запуск бесплатный, карта не нужна.

Стоимость
Бесплатно
Срок
Один прогон, минуты

Бесплатный тариф: два анализа в день, без карты.