Инфраструктура и цены с точки зрения операций

Главное

OpenAI ускорила агентов до 8 раз режимом Ultrafast

OpenAI выпустила GPT-6 Astra Ultrafast - более быстрый режим инференса на GPU NVIDIA Blackwell, дающий ускорение генерации токенов до 8 раз по сравнению с Astra Standard. Режим доступен в OpenAI API и части пользователей ChatGPT Work и Codex. Цель - сократить задержки внутри агентных циклов, где модель пишет код, вызывает инструменты и действует по результатам.

Что меняется для операций — Если ваш стек поддержки или операций использует AI-агентов, которые цепочкой вызывают несколько инструментов за одно обращение клиента - достают запись из CRM, проверяют остатки на складе, составляют ответ - задержка между каждым шагом складывается в реальное время ожидания для пользователя. Ultrafast нацелен именно на этот цикл: более быстрая генерация между вызовами инструментов означает, что многошаговый агент завершает рассуждение раньше, чем человек заметит паузу. Перед переводом production-процессов на новый режим стоит проверить гайд по Ultrafast на предмет того, каким тарифам и эндпоинтам сейчас доступен доступ и в чём разница в цене относительно Astra Standard - источник не называет конкретную стоимость, так что это вопрос к своему представителю API, а не предположение, на которое можно опираться.