Ir para o conteúdo

ML-intern do HuggingChat cria modelos sob medida por ~US$16

Resposta curta

A Hugging Face publicou um relato sobre o ML-intern, agente do HuggingChat que recebe um prompt descrevendo o modelo desejado, planeja o trabalho, pede um teto de gastos, roda um teste rápido, treina em GPUs da Hugging Face, avalia contra uma linha de base e publica o resultado — seis modelos de exemplo custaram cerca de US$103 no total.

O que isso significa na operação

Para uma empresa de 10 a 200 pessoas, a barreira para um modelo estreito e voltado a uma tarefa específica (um classificador de defeitos em fotos de produto, um reescritor de texto para um nicho, um modelo de visão pequeno para uma fila de suporte) sempre foi tempo de engenharia e custo de GPU, não falta de vontade de automatizar. O ML-intern reduz ambos a um prompt e um teto de orçamento: um dos exemplos do texto transformou um modelo de visão genérico em um classificador de doenças cítricas, elevando a acurácia de 14,9% para 52,8% por US$1,90, e outro destilou um modelo de reescrita de prompts de 9B parâmetros em uma versão de 0,8B rodável em CPU por cerca de US$16. Uma equipe de operações sem pessoal de ML poderia, em tese, descrever uma tarefa de classificação ou extração ligada aos próprios dados e receber de volta um modelo avaliado em um dia, em vez de embarcar em um projeto de ajuste fino de várias semanas ou pagar por token indefinidamente a um modelo grande e genérico. A ressalva é que todo exemplo do texto ainda exigiu que alguém reunisse ou indicasse um conjunto de dados rotulado e escrevesse um prompt detalhado — é um caminho mais barato até um modelo sob medida, não um substituto para definir a tarefa corretamente, e qualquer resultado ainda precisa de validação antes de tocar fluxos de produção de suporte ou vendas.

A Hugging Face publicou um relato detalhado sobre o ML-intern, um modo de agente dentro do HuggingChat que recebe um prompt descrevendo o modelo que alguém quer, planeja o projeto, pede um limite de gastos antes de executar qualquer coisa, treina e avalia o resultado contra uma linha de base e o publica no Hub com a avaliação no model card.

O texto, escrito por um membro da equipe da Hugging Face, percorre seis modelos construídos dessa forma ao longo de poucos dias. Um modelo de visão para doenças cítricas, ajustado a partir do Qwen3.5-2B com 3.017 imagens anotadas, saiu de uma acurácia de base de 14,9% para 52,8% após duas épocas, por cerca de US$1,90 em computação. Um 'Pocket Rewriter' — modelo de 0,8B destilado a partir de um modelo de reescrita de prompts de 9B — retorna saída válida em 99,7% das vezes usando um quarto dos tokens do modelo professor e roda em CPU, por aproximadamente US$16. Outros exemplos incluem LoRAs de ângulo de câmera e substituição de rabiscos para o Qwen-Image 2.1, além de uma versão destilada em 4 passos de um modelo de texto para imagem com 260M de parâmetros. O custo total de computação nos seis projetos somou cerca de US$103.

O ML-intern começa toda tarefa com orçamento zero e exige permissão explícita antes de gastar, aplicada por meio de um teto de gastos que o usuário define no prompt (por exemplo, "limite o gasto total a US$12"). O autor observa que os prompts melhoraram com a iteração — o primeiro tinha cerca de 450 palavras, o sexto, perto de 2.000 — e que dois elementos foram os mais importantes: pedir uma pontuação de linha de base antes do treinamento e exigir um pequeno teste rápido antes de comprometer-se com uma execução completa.

O ML-intern já está disponível dentro do HuggingChat ao ativar o modo e enviar um prompt; os próprios prompts do autor estão publicados no GitHub como modelos de partida.

Fonte: Hugging Face

Próximo passo

Visibility Analyzer

Uma notícia sobre IA não diz como os assistentes veem o seu site. O Visibility Analyzer verifica isso no site real: quais respostas citam você, quais páginas o motor não consegue recuperar e o que corrigir primeiro. Rodar é grátis.

Rodar uma auditoria de visibilidade grátis

Rodar é grátis. Sem cartão.

Preço
Grátis
Duração
Uma rodada, minutos

Plano grátis: duas análises por dia, sem cartão.