A Cloudflare anunciou uma prévia do Clairic, modelo que ela chama de modelo de extração System One. Ele roda no Workers AI como @cf/cloudflare/clairic. A empresa diz que pretende liberar os pesos de forma aberta em breve, mas isso ainda não aconteceu.
O que ele faz
O Clairic recebe um texto, mais até quatro imagens opcionais, e um mapa de campos nomeados. Cada campo ganha um tipo e, se quiser, instruções em linguagem natural. O modelo responde a todos os campos em uma passada paralela, sem etapa de raciocínio e sem gerar tokens. Segundo a Cloudflare, isso significa pagar apenas pela entrada e, em geral, receber a resposta em menos de um segundo.
Os tipos de campo são trechos de texto, números, datas, horários, data e hora, durações, listas, estimativas e previsões. Toda resposta escalar vem com um índice de confiança e com o p_null, a probabilidade de o valor não estar na entrada. As respostas de texto trazem os deslocamentos de caracteres, o que permite destacar o trecho de origem. Se o valor não está lá, a resposta é nula, em vez de um palpite plausível, embora a resposta ainda mostre o que o modelo teria escolhido.
Calcular e estimar, não só copiar
No exemplo da Cloudflare, um e-mail de cliente informa o preço e o valor do imposto separadamente. O Clairic devolveu a soma dos dois como total pago. Ele também calculou o número de dias entre duas datas citadas no texto. O código de rastreamento que não constava no e-mail voltou nulo, com baixa confiança.
Os campos de estimativa devolvem uma mediana e um intervalo de 80% dentro de limites que você declara. Um intervalo estreito indica alta certeza e um largo indica baixa certeza, o que pode servir de gatilho para uma nova checagem. Os campos de previsão devolvem uma estimativa para cada passo futuro, cada uma com seu próprio intervalo de 80%.
As evidências apresentadas pela Cloudflare
Na previsão, a Cloudflare rodou o Clairic diariamente por 21 dias sobre a contagem pública de passageiros nos pontos de controle da TSA. Ela informa um erro médio de 3,3%, com 17 das 21 contagens reais dentro do intervalo de 80%. Três dos quatro erros caíram no fim de semana do Columbus Day, porque o modelo prevê a partir de padrões da série e não conhece feriados. A Cloudflare também afirma que o modelo não substitui um modelo dedicado de séries temporais.
Num recibo fotografado, com legibilidade imperfeita, o modelo extraiu todos os valores pedidos, com índices de confiança. Ele devolveu corretamente nulo para o desconto. A confiança no número do pedido e no horário da compra ficou menor do que nos valores.
Onde ele se encaixa num fluxo
A Cloudflare posiciona o Clairic ao lado do Clef, um modelo de decisão que escolhe entre opções listadas por você, e de um LLM que redige a resposta. A demonstração encadeia os três num caso de produto danificado. O Clairic extrai os fatos e estima o custo do reparo, o Clef escolhe entre reembolso e reparo conforme uma política declarada, e um LLM escreve a resposta. A empresa resume a ideia assim: o modelo de extração transforma a entrada bruta em valores, o modelo de decisão transforma valores em decisões e o LLM transforma decisões em palavras.
A fonte diz que o Clef e o Jev, da TypeSafe, são modelos de decisão. O Clairic é o primeiro modelo de extração dessa classe. As afirmações sobre precisão, velocidade e custo vêm do post da Cloudflare e não foram testadas de forma independente.