AWS ha ampliado la personalización de modelos sin servidor de Amazon SageMaker AI con APIs de sesiones de entrenamiento, según una publicación del AWS Machine Learning Blog. El objetivo es eliminar una disyuntiva en el ajuste fino de LLM: los servicios totalmente gestionados son sencillos pero fijan la receta, mientras que las opciones menos gestionadas dan control a cambio de operar la infraestructura.
Qué hacen las APIs
Operaciones como forward_backward(), optim_step() y sample() pasan a ser llamadas a la API de SageMaker sobre una sesión activa en la que el modelo permanece cargado en las GPU. Se combinan para montar el procedimiento que haga falta. El servicio se encarga de la preparación del entorno de ejecución, la ejecución distribuida, la sincronización de gradientes, la recuperación ante fallos y el aislamiento entre clientes. El bucle en sí corre en tu máquina y entrena un adaptador LoRA sobre el modelo base que elijas.
El SDK de Python de SageMaker expone tres clientes, que se crean en secuencia: un ServiceClient para los ajustes de la plataforma, como el rol de ejecución, la ubicación de salida en S3 y, opcionalmente, la clave KMS y la configuración de VPC; un TrainingClient para entrenar y guardar puntos de control; y un SamplingClient para generar y puntuar. Una sesión activa también sirve un endpoint de chat completions compatible con OpenAI.
Facturación y encaje
El uso se factura por token procesado. Según AWS, no se cobra tiempo de GPU mientras tu propio código puntúa un lote, carga datos o registra información. El coste depende del volumen de datos y de generación, no del tiempo transcurrido ni del tamaño del clúster.
AWS sitúa las APIs entre dos opciones ya existentes. Dan mucho más control sobre el algoritmo que la personalización gestionada sin servidor y exigen mucho menos trabajo operativo que SageMaker Training Jobs o HyperPod. Una sesión en marcha cuenta contra una cuota de sesiones simultáneas hasta que se detiene o caduca.
Técnicas compatibles y recetario
Las mismas primitivas cubren el ajuste fino supervisado con pérdida de entropía cruzada, el aprendizaje por refuerzo con pérdidas ppo, importance_sampling o cispo, y objetivos propios como la optimización de preferencias o la destilación. AWS también ha publicado un recetario de sesiones de entrenamiento con recetas de SFT y RL listas para ejecutar. Los modelos base y las regiones compatibles figuran en la documentación, y la fuente no los repite.
Resultados que comunica AWS
En un ejemplo con GRPO sobre el benchmark matemático GSM8K, con un adaptador LoRA para GPT-OSS 20B, 10 pasos de entrenamiento sobre 40 problemas elevaron la precisión en datos reservados del 56 % al 75 %. En la receta de programación competitiva del recetario, 50 pasos de 128 problemas con 8 respuestas cada uno, en dos turnos, subieron la precisión en 200 problemas reservados del 40 % al 50,5 %. Son ejecuciones propias de AWS, no resultados independientes.
A quién va dirigido
AWS orienta las APIs a investigadores de post-entrenamiento, equipos que necesitan una función de pérdida o un currículo de datos poco habituales, quienes construyen RL agéntico y multiturno, e ingenieros de ML que se han quedado cortos con el ajuste fino basado en configuración.