A Salesforce apresentou o Koa Decisions, a próxima versão do modelo HyperClassifier, que roteia solicitações dentro do Agentforce. Trata-se de um modelo de decisão: ele não escreve texto, apenas devolve uma seleção. Pode escolher um item entre alternativas, dar uma resposta afirmativa ou negativa ou atribuir uma nota.
O que ele faz
O Koa Decisions recebe uma solicitação e um conjunto de categorias definidas por você e toma a decisão em uma única etapa, em milissegundos. O exemplo da Salesforce é o de um cliente que escreve que não consegue fazer login. O modelo escolhe entre engenharia, contas e vendas e devolve um índice de confiança para cada opção.
Segundo a Salesforce, o modelo foi construído com novas técnicas de treinamento aplicadas ao Gemma, modelo de pesos abertos do Google. Uma novidade em relação ao HyperClassifier é o suporte multimodal: além de texto, o modelo aceita imagens e áudio.
Velocidade e custo
A empresa explica a diferença pelo modo como cada tipo de modelo responde. Um LLM gera a resposta token por token, enquanto o modelo de decisão lê a solicitação inteira e emite de uma vez uma resposta curta. Ao medir pedidos de roteamento no Agentforce, a Salesforce obteve cerca de 26 milissegundos para o modelo de decisão, contra aproximadamente 1,4 segundo para um LLM de uso geral. É uma medição do fornecedor em uma única tarefa, não um benchmark independente.
Menos trabalho de implantação
A Salesforce compara isso com a abordagem antiga, de um modelo preditivo sob medida: a equipe definia o resultado, coletava e rotulava dados, treinava, verificava a precisão e repetia o ciclo, o que muitas vezes levava meses. O modelo de decisão parte de um modelo de linguagem que já entende como frases se relacionam com categorias. Assim, a equipe pode acrescentar uma categoria e, às vezes, chegar à produção em horas. Na demonstração, ao incluir a opção "Devoluções", o modelo passou a escolhê-la para um pedido de devolução, sem retreinamento.
Onde ele se encaixa
A Salesforce posiciona o Koa Decisions para as decisões rápidas de um fluxo de trabalho e deixa os LLMs para escrever e raciocinar. O exemplo dela é o de um negócio que está perdendo força: o modelo de decisão sinaliza o risco e escolhe a equipe que deve entrar em ação, e um LLM resume o que mudou. O Koa Decisions faz parte da família de modelos Koa, que inclui também um modelo de raciocínio separado, desenvolvido com a NVIDIA.
O que ainda vem por aí
A Salesforce planeja levar o modelo além do roteamento, para flows, Apex e prompt templates voltados a quem constrói soluções, além de uma API para desenvolvedores. O texto não traz preços e diz que preços, pacotes e disponibilidade regional estão sujeitos a mudança. Qualquer pessoa pode testar uma demonstração por meio de uma conta gratuita do Trailhead, sem ser cliente da Salesforce.
A Salesforce observa ainda que outros fornecedores, entre eles a TypeSafe AI e a OpenAI, lançaram recentemente modelos de decisão próprios, o que indica que essa camada está virando padrão na arquitetura de agentes.