На KubeCon + CloudNativeCon NVIDIA объявила, что передаёт OpenShell фонду Cloud Native Computing Foundation (CNCF). Фонд - некоммерческая организация в составе Linux Foundation. OpenShell - открытый рантайм для защиты автономных агентов и управления ими, в CNCF он входит как проект уровня Sandbox.
Что делает OpenShell
Рантайм применяет детерминированные ограничения к действиям агента. Команда может задавать политики в тот момент, когда агент вызывает инструменты, обращается к сервисам инференса или запускает рабочие нагрузки. Архитектура расширяемая: можно подключить собственные вычислительные ресурсы, провайдеров инференса, хранилище учётных данных и мониторинг. Так одно и то же управление работает в разных средах и стыкуется с уже существующими корпоративными системами.
По словам NVIDIA, OpenShell уже использовали сотни организаций, а за неполный год с запуска проект получил десятки тысяч вкладов.
Agent Substrate и Google
NVIDIA также участвует в Agent Substrate - фреймворке, который начала Google и который уже находится в CNCF Sandbox. Он нужен для масштабного запуска долгоживущих агентов в Kubernetes. NVIDIA адаптирует его под своё ПО для инференса Dynamo и планировщик KAI Scheduler, который распределяет общие ресурсы кластера. Agent Substrate сохраняет среду агента между задачами и освобождает вычислительные ресурсы, пока агент простаивает, поэтому под каждую сессию не нужно держать отдельные мощности. NVIDIA и Google также работают над интеграцией OpenShell и Agent Substrate: она должна управлять агентами в разных облаках и локальных системах. Интеграция в разработке, даты выхода в источнике нет.
Новые Kubernetes-инструменты для AI-фабрик
Три открытых компонента расширяют платформу NVIDIA DSX AI Factory:
- NVIDIA Kubernetes Engine (NVKE) и Kubernetes Recipes (NVKR) доступны в публичном превью. Они автоматизируют управление жизненным циклом кластеров и поставляют подписанные образы с зафиксированными версиями для провайдеров, которые продают управляемый Kubernetes на GPU-инфраструктуре. О планах интеграции договорились Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud и vCluster, а также Firmus и SK Telecom.
- NVIDIA Snapshot за секунды восстанавливает реплики инференса из контрольных точек, минуя повторную загрузку модели и прогрев. Crusoe, тестируя GLM-5.3 в своём облаке на системах NVIDIA HGX B300, сократила время до готовности примерно с восьми минут до 31 секунды. Saturn Cloud в тестах масштабирования с нуля сократила запуск vLLM с двух-8,5 минут до шести-34 секунд.
Это результаты, о которых сообщают сами вендоры: их получили партнёры по дизайну на собственных нагрузках.
Что ясно, а что нет
Управление моделью OpenShell теперь общее. Развивать проект будут организации, которые встраивают его в свои продукты; источник подаёт это как способ усилить защитные механизмы. Цен нет, сроков выхода NVKE и NVKR в продакшен источник тоже не называет. Эти два инструмента нужны провайдерам GPU-инфраструктуры; компаниям, которые просто пользуются ИИ-сервисами, они ни к чему.