Destacado
TypeSafe AI lanza Jev, una capa de decisión barata pensada para sustituir llamadas a LLM en enrutamiento y triaje
TypeSafe AI lanzó Jev, un modelo de decisión no basado en LLM que responde preguntas de sí/no, puntuación o elección múltiple con un nivel de confianza en 70-500ms, con un costo de $0.042 por millón de tokens de entrada y salida gratuita. Apunta a enrutamiento, clasificación y cribado —como triaje de tickets de soporte o cribado de CV— donde las llamadas a LLM resultan demasiado lentas o caras, aunque su precisión es del 67.8%.
Qué cambia en operaciones — Para un equipo de soporte u operaciones que hoy paga a un LLM para etiquetar la urgencia de tickets, cribar currículums o decidir qué modelo atiende una solicitud, Jev es un paso intermedio mucho más barato: devuelve una puntuación o elección estructurada junto con un valor de confianza en lugar de texto libre, de modo que se pueden enrutar automáticamente los casos de alta confianza y enviar los de baja confianza a una persona. El problema es la cifra de precisión del 67.8% y la ausencia total de explicación sobre cómo llegó a una decisión, por lo que es una capa de triaje, no un sustituto del juicio humano en nada con consecuencias reales si falla —y entradas adversariales (un mensaje de soporte manipulado, un CV alterado) todavía pueden desviar su razonamiento sin fuertes salvaguardas alrededor.