Saltar al contenido

Salesforce lanza Koa Decisions, un modelo de enrutamiento rápido

Respuesta corta

Salesforce presenta Koa Decisions, el sucesor de su modelo de enrutamiento HyperClassifier. Lee una solicitud y una lista de categorías que usted define, y devuelve una opción con su puntuación de confianza en un solo paso. Salesforce midió unos 26 milisegundos, frente a aproximadamente 1,4 segundos de un LLM de uso general.

Qué significa para las operaciones

Si la cola de soporte o de ventas de su empresa funciona con reglas de enrutamiento o con una llamada a un LLM por cada mensaje entrante, este es el tipo de componente que conviene probar. Un modelo de decisión devuelve el nombre de un equipo o un sí/no en milisegundos, de modo que la clasificación deja de ser el paso lento y el LLM queda para redactar y resumir. Añadir una categoría como «Devoluciones» no requiere reentrenar, lo que abarata cambiar el enrutamiento. Dos advertencias: las cifras de 26 ms y 1,4 s son una medición propia de Salesforce sobre el enrutamiento en Agentforce, y la fuente no da precios. La API para desarrolladores y la compatibilidad con Flow, Apex y plantillas de prompts son planes, no funciones ya disponibles. Pruebe la demo gratuita de Trailhead con sus propios tickets reales antes de planificar nada a su alrededor.

Salesforce ha presentado Koa Decisions, la siguiente versión del modelo HyperClassifier, que enruta solicitudes dentro de Agentforce. Es un modelo de decisión: su salida es una selección, por ejemplo elegir un elemento entre varias alternativas, responder sí o no, o asignar una puntuación.

Qué hace

Koa Decisions recibe una solicitud y un conjunto de categorías que usted define, y toma la decisión en un solo paso, en milisegundos. El ejemplo de Salesforce es un cliente que escribe que no puede iniciar sesión. El modelo elige entre ingeniería, cuentas y ventas, y devuelve una puntuación de confianza para cada opción.

Salesforce afirma que lo construyó aplicando nuevas técnicas de entrenamiento a Gemma, el modelo de pesos abiertos de Google. Respecto a HyperClassifier, añade soporte multimodal: además de texto, el modelo puede recibir imágenes y audio.

Velocidad y coste

La compañía explica la diferencia por la forma en que responde cada tipo de modelo. Un LLM genera su respuesta token a token, mientras que un modelo de decisión lee la solicitud completa y emite de golpe una respuesta corta. Al medir solicitudes de enrutamiento en Agentforce, el modelo de decisión tardó aproximadamente 26 milisegundos, frente a cerca de 1,4 segundos de un LLM de uso general. Es una medición del proveedor sobre una sola tarea, no un benchmark independiente.

Menos trabajo de puesta en marcha

Salesforce lo compara con el método anterior, un modelo predictivo a medida, en el que el equipo definía el resultado, recopilaba y etiquetaba datos, entrenaba, comprobaba la precisión y repetía el ciclo, a menudo durante meses. Un modelo de decisión parte de un modelo de lenguaje que ya entiende cómo se relacionan las frases con las categorías, así que un equipo puede añadir una categoría y, en ocasiones, llegar a producción en horas. En la demo, al añadir la opción «Devoluciones», el modelo la eligió ante una solicitud de devolución sin ningún reentrenamiento.

Dónde encaja

Salesforce sitúa Koa Decisions en las decisiones rápidas de un flujo de trabajo y deja a los LLM la redacción y el razonamiento. Su ejemplo es un negocio que se enfría: el modelo de decisión señala el riesgo y elige el equipo que debe intervenir, y un LLM resume qué ha cambiado. Koa Decisions forma parte de la familia de modelos Koa, que incluye también un modelo de razonamiento independiente creado con NVIDIA.

Lo que falta por llegar

Salesforce planea extender el modelo más allá del enrutamiento, a flujos, Apex y plantillas de prompts para quienes construyen soluciones, además de una API para desarrolladores. La publicación no indica precios y señala que precios, empaquetado y disponibilidad regional pueden cambiar. Cualquiera puede probar una demo con una cuenta gratuita de Trailhead, sin ser cliente de Salesforce.

Salesforce señala además que otros proveedores, entre ellos TypeSafe AI y OpenAI, han lanzado hace poco sus propios modelos de decisión, de modo que esta capa se está volviendo habitual en el diseño de agentes.

Fuente: Salesforce News · En el Atlas: Salesforce →

Las herramientas de esta noticia

  • OpenAI - precio, quién la usa, alternativas
  • NVIDIA - precio, quién la usa, alternativas
Siguiente paso

Visibility Analyzer

Una noticia sobre IA no dice cómo los asistentes ven tu sitio. El Visibility Analyzer lo comprueba en el sitio real: qué respuestas te citan, qué páginas el motor no puede recuperar y qué arreglar primero. Ejecutarlo es gratis.

Lanzar una auditoría de visibilidad gratuita

Lanzarlo es gratis. Sin tarjeta.

Precio
Gratis
Duración
Una ejecución, minutos

Plan gratuito: dos análisis al día, sin tarjeta.