A AWS ampliou a customização de modelos serverless no Amazon SageMaker AI com APIs de sessão de treino, segundo um post no AWS Machine Learning Blog. O objetivo é eliminar um dilema no fine-tuning de LLMs: serviços totalmente gerenciados são simples, mas a receita é fixa; opções menos gerenciadas dão controle, mas cobram o preço de operar a infraestrutura.
O que as APIs fazem
Operações como forward_backward(), optim_step() e sample() viram chamadas de API do SageMaker contra uma sessão ativa, na qual o modelo permanece carregado nas GPUs. Você as combina no procedimento que precisar. O serviço cuida da configuração do ambiente de execução, da execução distribuída, da sincronização de gradientes, da recuperação de falhas e do isolamento entre tenants. O loop em si roda na sua máquina e treina um adaptador LoRA sobre o modelo base escolhido.
O SageMaker Python SDK expõe três clientes, criados em sequência: um ServiceClient para as configurações da plataforma, como a função de execução, o local de saída no S3 e, opcionalmente, a chave KMS e a configuração de VPC; um TrainingClient para treino e checkpoints; e um SamplingClient para geração e pontuação. Uma sessão ativa também oferece um endpoint de chat completions compatível com a OpenAI.
Cobrança e onde isso se encaixa
O uso é cobrado por token processado. Segundo a AWS, nenhum tempo de GPU é cobrado enquanto o seu código pontua um lote, carrega dados ou registra logs. O custo acompanha o volume do dataset e da geração, e não o tempo de relógio nem o tamanho do cluster.
A AWS posiciona as APIs entre duas opções que já existiam. Elas dão bem mais controle sobre o algoritmo do que a customização serverless gerenciada, e exigem bem menos trabalho operacional do que os SageMaker Training Jobs ou o HyperPod. Uma sessão em execução conta para uma cota de sessões simultâneas até ser interrompida ou expirar.
Técnicas suportadas e o cookbook
As mesmas primitivas cobrem fine-tuning supervisionado com perda de entropia cruzada, aprendizado por reforço com perdas ppo, importance_sampling ou cispo, e objetivos próprios, como otimização de preferências ou distilação. A AWS também publicou um cookbook de sessões de treino com receitas prontas de SFT e RL. Os modelos base e as Regiões suportados estão listados na documentação, e a fonte não os repete.
Resultados que a AWS informa
Em um exemplo de GRPO no benchmark de matemática GSM8K, com um adaptador LoRA para o GPT-OSS 20B, 10 passos de treino em 40 problemas elevaram a acurácia em dados reservados de 56% para 75%. Na receita de programação competitiva do cookbook, 50 passos de 128 problemas com 8 respostas cada, em dois turnos, elevaram a acurácia em 200 problemas reservados de 40% para 50,5%. São execuções da própria AWS, não resultados independentes.
Para quem é
A AWS direciona as APIs a pesquisadores de pós-treinamento, a times que precisam de uma função de perda ou de um currículo de dados fora do padrão, a quem constrói RL agêntico e multi-turno, e a engenheiros de ML que já superaram o fine-tuning baseado em configuração.