El equipo de Granite de IBM ha anunciado Granite Switch 4.1 en una publicación de Hugging Face fechada el 15 de octubre de 2026. La versión incorpora dos modelos, Granite-Switch-4.1-8B y Granite-Switch-4.1-30B. Cada uno alterna entre respuestas en lenguaje natural, tareas de decisión y voz a texto, y todo se sirve desde un único endpoint alojado.
Qué incluye el paquete
El proyecto Granite Switch, presentado la primavera pasada, construye un modelo a partir de uno base y pequeños adaptadores complementarios. Los modelos 4.1 llegan con tres añadidos:
- Un adaptador Decision para decisiones de uso general.
- Un adaptador Guardian para decisiones relacionadas con la seguridad. IBM afirma que, de media, supera a otros modelos de decisión en esas tareas.
- Granite-Speech-5.0-Turbo-CTC, que IBM describe como el modelo de reconocimiento de voz más rápido de la clasificación OpenASR.
Todo ello se integra en un único modelo que, según IBM, consume aproximadamente la misma VRAM de GPU que el modelo base por sí solo. Los adaptadores están construidos como Activated LoRA, de modo que la caché KV de una generación del modelo base puede reutilizarse en decisiones posteriores basadas en adaptadores. IBM añade que ha aportado cambios a vLLM para acelerar la inferencia con adaptadores de bajo rango.
La demo y la comparación
IBM remite a un space de Hugging Face en el que granite-switch-4.1-8b transcribe audio, redacta resúmenes, detecta contenido dañino y comprueba otros 15 indicadores definidos por el usuario, todo en un solo endpoint y en tiempo real. En una comparación aparte, IBM asegura que Granite-Switch-4.1-30B, con cuatro adaptadores especializados, completó un flujo RAG real de cinco pasos más rápido que una configuración rival con un modelo de 27B y un único adaptador de decisión genérico. Son resultados de la propia IBM. La publicación indica que habrá más detalles y datos en las próximas semanas.
Construya el suyo
Los dos modelos publicados traen un conjunto de adaptadores preseleccionado, pero IBM sostiene que cualquiera puede componer su propio modelo Granite Switch con los adaptadores de sus Granite Libraries. Defiende que los adaptadores especializados pueden superar a los modelos de decisión generalistas en tareas de clasificación acotadas, y que añadirlos cuesta poco porque comparten la caché del modelo base. IBM prevé un Adapter SDK para entrenar adaptadores en Mellea, con tutoriales, pero no da fecha.
Como prueba de esfuerzo, IBM creó un modelo Granite Switch personalizado de 3B que juega a Doom. Indica que toma entre 60 y 100 decisiones por segundo, frente a las 10 por segundo que ha comunicado un sistema competidor, y que su modelo puede narrar y responder preguntas mientras juega.
Lo que no se indica
La publicación no ofrece precios, planes de alojamiento ni condiciones de licencia. Remite a las fichas de los modelos, a un repositorio de GitHub y a un cuaderno de Colab que compara aLoRA y LoRA.