Перейти к содержимому

AWS Bedrock: резервные модели и новая цена памяти

Короткий ответ

В октябрьском пакете обновлений Bedrock от AWS появились Claude Haiku 5.5 и GPT-6.1 Terra, шлюз, который перенаправляет запросы при троттлинге модели, рабочие процессы Step Functions в роли инструментов агента и оплата памяти агента по объёму данных. Расходы на Bedrock теперь можно разбить по модели, провайдеру и функции.

Что это значит для операций

Если в поддержке или в продажах у вас работает несколько агентов на Bedrock, важны три изменения. Во-первых, цепочка резервных моделей на шлюзе избавляет от кода повторных попыток в каждом клиенте, когда у одного провайдера сбой или троттлинг, так что проверьте цепочку до следующего пикового периода. Во-вторых, процесс возврата или согласования, который у вас уже работает в Step Functions, можно отдать агенту как инструмент: агент решает, когда его запускать, а шаги выполняются как заданы. В-третьих, разбивка затрат по моделям позволяет тому, кто отвечает за счёт AWS, найти дорогую модель и поставить на неё оповещение о бюджете. Заодно пересчитайте счёт за память: теперь цена зависит от объёма данных, а не от фиксированной ставки за событие.

Блог AWS по машинному обучению опубликовал октябрьский обзор для разработчиков ИИ: в нём Amazon Bedrock, Bedrock AgentCore и open source-набор Strands. Это сводка самого вендора, поэтому все утверждения ниже принадлежат AWS или приписаны создателям моделей.

Новые модели

  • Claude Haiku 5.5 рассчитан на массовую работу субагентов. По заявлению Anthropic, для большинства задач модель обходится примерно на 75% дешевле Claude Haiku 4.5. Это первый Haiku с настройками усилия, которые позволяют балансировать между стоимостью и возможностями. AWS советует поручать планирование более крупной модели, например Claude Opus 5.5, а чётко заданные задачи передавать Haiku.
  • OpenAI GPT-6.1 Terra общедоступна в Bedrock. По данным AWS, на тесте OpenAI Agents' Last Exam она показала тот же результат, что GPT-6 Astra, но справлялась с задачами более чем втрое быстрее. Цены за токены у неё минимум на 50% ниже, чем у GPT-6.1 Sol и GPT-5.6 Terra. Принимает текст и изображения, до 1 млн входных токенов.
  • Amazon Nova 2.5 Sonic, модель речь-в-речь, точнее рассуждает и вызывает инструменты, работает с меньшей задержкой, а стоит столько же, сколько Nova 2 Sonic.
  • Также добавлены GLM 5.3 (с открытыми весами, для кода) и TwelveLabs Pegasus 1.5 (превращает видео в метаданные с временными метками). Несколько моделей, включая Claude Haiku 5.5, стали доступны в AWS GovCloud (US).

Надёжность и контроль

AgentCore Gateway теперь поддерживает API Bedrock InvokeModel и резервное переключение моделей. Если основная модель троттлится или недоступна, запросы идут по цепочке моделей или провайдеров, которую вы задаёте, а автоматический выключатель пропускает сбоящие направления. Существующий код на Bedrock SDK можно направить на шлюз без правок под каждого провайдера.

Рабочие процессы Step Functions, Standard и Express, теперь можно использовать как инструменты агента через тот же шлюз. Процесс сохраняет свои шаги согласования и проверки права, а агент лишь выбирает момент запуска. Структурированный вывод, возвращающий JSON по схеме, теперь работает со всеми моделями Claude в Bedrock. Web Search поддерживает списки разрешённых и запрещённых доменов, до 100 в каждом, а в Guardrails появился уровень Standard для проверок обоснованности по цене уровня Classic.

Стоимость

Краткосрочная память AgentCore теперь тарифицируется по объёму данных: принятых, извлечённых и хранимых. По словам AWS, большинство нагрузок станет обходиться дешевле, больше всего сэкономят случаи с небольшими объёмами. Записям долгосрочной памяти можно задавать время жизни. Cost Explorer, Budgets и Cost Management Dashboards теперь без доплаты разбивают расходы на Bedrock по модели, провайдеру, типу инференса и функции.

Strands

Strands Bidi Agents для голоса вышли в общий доступ. Strands Box, локальная песочница с политиками для каждого инструмента, доступна в режиме предварительного просмотра для разработчиков. Strands Evals получил red teaming и оценку структурированного вывода по полям. Strands Decider, небольшая модель, выбирающая между заданными вариантами, теперь выпускается в четырёх размерах. По словам AWS, в одной внутренней системе классификации тикетов стоимость обработки тикета упала примерно на 98% после перехода на неё. Эту цифру AWS оценила сама, независимо она не проверялась.

Источник: AWS Machine Learning Blog

Инструменты из этой новости

  • OpenAI - цена, кто пользуется, альтернативы
  • Claude - цена, кто пользуется, альтернативы
Следующий шаг

Visibility Analyzer

Новость об ИИ не скажет, как ассистенты видят ваш сайт. Это проверяет Visibility Analyzer на живом сайте: в каких ответах вас цитируют, до каких страниц ассистенты не добираются и что чинить первым. Запуск бесплатный.

Запустить бесплатный аудит видимости

Запуск бесплатный, карта не нужна.

Стоимость
Бесплатно
Срок
Один прогон, минуты

Бесплатный тариф: два анализа в день, без карты.

Ещё по теме