A NVIDIA publicou um resumo de atualizações de software alinhado ao lançamento dos notebooks RTX Spark, que, segundo NVIDIA e Microsoft, chegam às lojas na sexta-feira, 16 de outubro. O hardware combina até 128 GB de memória unificada com 1 petaflop de computação de IA. A maior parte do texto trata de jogos e aplicativos criativos, mas alguns itens interessam a quem constrói agentes.
Um modelo para agentes locais
O Nemotron 3.5 Bolt 74B chega na quinta-feira, 15 de outubro. É um modelo de mistura de especialistas (MoE) com 74 bilhões de parâmetros, dos quais 9 bilhões ficam ativos por vez. A quantização de 2 bits o comprime para caber em 24 GB. A NVIDIA o apresenta como mais rápido que modelos densos populares e mais inteligente que modelos MoE populares de tamanho de memória parecido; essas comparações são dela, e a fonte não traz dados de benchmark. Dados de treinamento, pesos e receitas são todos de código aberto, então as equipes podem fazer ajuste fino (fine-tuning). No lançamento, ele roda em llama.cpp, vLLM, Ollama, Unsloth e LM Studio, e agentes como Hermes e OpenClaw podem usá-lo diretamente.
Segurança e roteamento
Os agentes instalados no RTX Spark vêm com isolamento (sandbox) do NVIDIA OpenShell e do Microsoft Execution Containers (MXC). O MXC oferece segurança no nível do sistema operacional. O OpenShell facilita a adoção do MXC pelos agentes e acrescenta proteção de credenciais e monitoramento de segurança. OpenClaw e GitHub Copilot já aceitam o MXC, e o Hermes Agent deve receber controles granulares do OpenShell e o MXC até o fim do mês.
O NVIDIA Switchyard, uma biblioteca de roteamento de modelos de código aberto, permite que um agente envie consultas para um modelo local ou para um modelo na nuvem. A ideia é usar menos a nuvem e obter resultados semelhantes. O Hermes vai incorporá-lo ainda em outubro. Perplexity Computer e GitHub Copilot já criaram seus próprios roteadores.
PAIR e modelos de decisão
O NVIDIA PAIR, ferramenta gratuita e de código aberto que encontra PCs na rede local e distribui cargas de trabalho de IA entre eles, sai do beta. Ele instala modelos e mecanismos de inferência, agora aceita llama.cpp e downloads do Hugging Face e roda em Windows, Linux e macOS.
llama.cpp e Unsloth agora aceitam modelos de decisão, que, segundo a NVIDIA, permitem ao agente escolher a próxima ação, por exemplo classificando uma solicitação, até 200 vezes mais rápido que agentes tradicionais. O llama.cpp também ganha um aplicativo para Windows que roda na bandeja do sistema, para baixar e executar modelos sem usar a linha de comando.
O que a fonte não traz
O texto não informa preços dos notebooks nem traz testes independentes. A afirmação de que os downloads de modelos locais são 5 vezes maiores que em todo o ano passado é da própria NVIDIA. Os itens sobre jogos, Adobe, Blender e ComfyUI ficam fora do escopo desta nota.