A NVIDIA anunciou um conjunto de contribuições open source no KubeCon + CloudNativeCon, conforme descrito no blog da NVIDIA. O destaque é o OpenShell, um runtime para proteger e governar agentes de IA autônomos, que a empresa está entregando à Cloud Native Computing Foundation (CNCF) como projeto Sandbox.
O que o OpenShell faz
O OpenShell aplica controles determinísticos ao que um agente faz. As equipes podem impor políticas quando o agente chama ferramentas, acessa serviços de inferência ou executa cargas de trabalho. A arquitetura é extensível: a organização pode conectar sua própria capacidade de computação, seus provedores de inferência, o armazenamento de credenciais e o monitoramento, e aplicar a mesma governança em ambientes de implantação diferentes e em sistemas corporativos já existentes.
Com o status de Sandbox da CNCF, o projeto passa a ser governado pelas organizações que o incorporam aos seus produtos. A NVIDIA afirma que centenas de organizações já usam o OpenShell e que o projeto recebeu dezenas de milhares de contribuições em menos de um ano desde o lançamento.
Agent Substrate e escala
A NVIDIA também está contribuindo com o Agent Substrate, um framework criado no Google para rodar cargas de agentes de longa duração no Kubernetes, que já está no CNCF Sandbox. Ele preserva o ambiente do agente entre tarefas e libera computação enquanto o agente está ocioso, então as equipes não precisam reservar capacidade dedicada para cada sessão. A NVIDIA está fazendo o framework funcionar com o seu software de inferência Dynamo e com o KAI Scheduler, para recursos compartilhados de cluster. NVIDIA e Google também trabalham numa integração entre OpenShell e Agent Substrate para governar agentes entre nuvens e sistemas on-premises. A fonte descreve isso como colaboração em andamento, e não como produto entregue.
Novos componentes Kubernetes para infraestrutura de GPU
Três adições ampliam a NVIDIA DSX AI Factory Platform:
- NVIDIA Kubernetes Engine (NVKE) e Kubernetes Recipes (NVKR), em prévia pública, são blocos de construção para oferecer Kubernetes gerenciado sobre infraestrutura de GPU. Eles automatizam o ciclo de vida dos clusters e fornecem imagens assinadas e com versão fixa. Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus e SK Telecom se alinharam a planos para incluí-los em suas ofertas.
- NVIDIA Snapshot restaura réplicas de inferência com checkpoint em segundos, sem recarregar o modelo nem fazer aquecimento, o que acelera a inicialização e a recuperação.
A NVIDIA cita dois parceiros de design que usam sistemas HGX B300. A Crusoe testou o GLM-5.3 e reduziu o tempo até ficar pronto de cerca de oito minutos para 31 segundos. A Saturn Cloud relatou que a inicialização do vLLM caiu de entre dois e 8,5 minutos para entre seis e 34 segundos em testes de escala a partir de zero. São resultados publicados pelo fornecedor, com cargas de parceiros, e não benchmarks independentes.
O que a fonte não informa
A fonte não traz datas para o OpenShell atingir qualquer nível de maturidade, nem preços, nem detalhes sobre como os planos de integração dos parceiros listados chegarão aos clientes.