Destaque
TypeSafe AI lança Jev, camada de decisão barata para substituir LLMs em roteamento e triagem
A TypeSafe AI lançou o Jev, um modelo de decisão sem LLM que responde perguntas de sim/não, pontuação ou múltipla escolha com nível de confiança em 70-500ms, custando US$ 0,042 por milhão de tokens de entrada com saída gratuita. Ele mira etapas de roteamento, classificação e triagem — como triagem de chamados de suporte ou seleção de currículos — onde chamadas de LLM são lentas ou caras demais, embora sua acurácia fique em 67,8%.
O que muda na operação — Para um time de suporte ou operações que hoje paga um LLM para classificar urgência de chamados, triar currículos ou decidir qual modelo atende uma solicitação, o Jev é uma etapa intermediária muito mais barata: ele devolve um score ou escolha estruturada com um valor de confiança em vez de texto livre, permitindo rotear automaticamente os casos de alta confiança e enviar os de baixa confiança para um humano. O problema é o número de 67,8% de acurácia e a ausência total de explicação sobre como a decisão foi tomada, então funciona como camada de triagem, não como substituto de julgamento em qualquer coisa com risco real caso erre — e entradas adversariais (uma mensagem de suporte manipulada, um currículo adulterado) ainda podem sequestrar seu raciocínio sem guardrails fortes ao redor dele.