Saltar al contenido

NVIDIA lanza Nemotron 3.5 Bolt 74B, modelo abierto para agentes

Respuesta corta

Con los portátiles RTX Spark a la venta el 16 de octubre, NVIDIA lanza el 15 de octubre Nemotron 3.5 Bolt 74B, un modelo de código abierto pensado para agentes locales. Incluye además aislamiento de agentes con OpenShell y MXC, un enrutador entre local y nube llamado Switchyard, y PAIR sale de la fase beta.

Qué significa para las operaciones

Para un equipo B2B de 10 a 200 personas, lo útil no es el portátil sino el patrón: ejecutar el trabajo rutinario de los agentes con un modelo local y enviar a un modelo en la nube solo las consultas difíciles. Switchyard, un enrutador de código abierto, está diseñado justo para ese reparto. La protección de credenciales y la monitorización de OpenShell cobran importancia en cuanto un agente se acerca al acceso de un CRM o de un helpdesk. Conviene tratarlo todo como afirmaciones del fabricante hasta probarlo. La fuente no da precios de los portátiles, y lo que dice sobre enrutamiento híbrido y ahorro de costes es de NVIDIA. Un primer paso razonable es pilotar una tarea acotada y repetitiva, como clasificar solicitudes entrantes, y comparar resultados y gasto en la nube con lo que usan hoy.

NVIDIA ha publicado un resumen de novedades de software que coincide con el lanzamiento de los portátiles RTX Spark, que según NVIDIA y Microsoft salen a la venta el viernes 16 de octubre. El hardware combina hasta 128 GB de memoria unificada con 1 petaflop de cómputo para IA. Gran parte del texto trata de juegos y aplicaciones creativas, pero varios puntos interesan a los equipos que construyen agentes.

Un modelo para agentes locales

Nemotron 3.5 Bolt 74B llega el jueves 15 de octubre. Es un modelo de mezcla de expertos con 74B de parámetros, de los cuales 9B están activos a la vez. Con cuantización de dos bits cabe en 24 GB. NVIDIA lo presenta como más rápido que los modelos densos populares y más inteligente que los modelos MoE populares de tamaño de memoria similar; son comparaciones suyas y la fuente no incluye datos de benchmarks. Los datos de entrenamiento, los pesos y las recetas son de código abierto, de modo que los equipos pueden hacer fine-tuning. En el lanzamiento funciona con llama.cpp, vLLM, Ollama, Unsloth y LM Studio, y agentes como Hermes y OpenClaw pueden usarlo directamente.

Seguridad y enrutamiento

Los agentes instalados en RTX Spark incluyen aislamiento (sandboxing) con NVIDIA OpenShell y Microsoft Execution Containers (MXC). MXC aporta seguridad a nivel de sistema operativo. OpenShell facilita que los agentes adopten MXC y añade protección de credenciales y monitorización de seguridad. OpenClaw y GitHub Copilot ya son compatibles con MXC, y Hermes Agent incorporará controles granulares de OpenShell y MXC antes de que acabe el mes.

NVIDIA Switchyard, una biblioteca de código abierto para enrutar modelos, permite que un agente envíe las consultas a un modelo local o a uno en la nube. El objetivo es recurrir menos a la nube y obtener resultados similares. Hermes lo añadirá más adelante en octubre. Perplexity Computer y GitHub Copilot han desarrollado su propio enrutamiento.

PAIR y modelos de decisión

NVIDIA PAIR, una herramienta gratuita y de código abierto que localiza PC en una red local y reparte entre ellos las cargas de trabajo de IA, deja la fase beta. Instala modelos y motores de inferencia, ahora admite llama.cpp y descargas desde Hugging Face, y funciona en Windows, Linux y macOS.

llama.cpp y Unsloth ya admiten modelos de decisión, que según NVIDIA permiten a un agente elegir su siguiente acción, por ejemplo clasificando una solicitud, hasta 200 veces más rápido que los agentes tradicionales. llama.cpp suma además una aplicación para Windows que se ejecuta desde la bandeja del sistema, de modo que se pueden descargar y ejecutar modelos sin usar la línea de comandos.

Lo que la fuente no incluye

La publicación no da precios de los portátiles ni pruebas independientes. Su afirmación de que las descargas de modelos locales son 5 veces mayores que en todo el año pasado es de la propia NVIDIA. Los apartados de juegos, Adobe, Blender y ComfyUI quedan fuera de lo que cubre esta nota.

Fuente: NVIDIA Blog · En el Atlas: NVIDIA →

Siguiente paso

Visibility Analyzer

Una noticia sobre IA no dice cómo los asistentes ven tu sitio. El Visibility Analyzer lo comprueba en el sitio real: qué respuestas te citan, qué páginas el motor no puede recuperar y qué arreglar primero. Ejecutarlo es gratis.

Lanzar una auditoría de visibilidad gratuita

Lanzarlo es gratis. Sin tarjeta.

Precio
Gratis
Duración
Una ejecución, minutos

Plan gratuito: dos análisis al día, sin tarjeta.