AWS ha incorporado el ajuste fino completo (FFT, por sus siglas en inglés) a Amazon SageMaker AI Serverless Model Customization, según una publicación del blog de aprendizaje automático de AWS. El servicio ya admitía LoRA, un método más ligero que entrena pequeñas matrices adicionales. El FFT, en cambio, actualiza todos los pesos del modelo. AWS afirma que los usuarios no aprovisionan GPU, no montan clústeres ni configuran entrenamiento distribuido. La publicación no indica precios ni fecha de despliegue.
Qué probó AWS
Los experimentos usaron ajuste fino supervisado sobre el modelo base Qwen3-4B con el conjunto Magicoder-Evol-Instruct-110K, de 110.000 pares de instrucciones de programación. AWS lo dividió en 99.000 registros de entrenamiento, 5.500 de validación y 5.500 reservados para la prueba final. Ambos métodos recibieron los mismos prompts, los mismos objetivos y el mismo código de evaluación. La publicación añade que el equipo también hizo experimentos con DeepSeek-R1-1.5B, Nemotron-30B y Gemma-4-26B. Cada ejecución tardó unas horas desde el envío hasta los resultados, y los modelos terminados se registraron automáticamente en SageMaker Model Registry.
Con más de 100K ejemplos de entrenamiento, el FFT alcanzó un 90,0 % en una puntuación de corrección de generación de código evaluada con LLM-as-Judge. AWS indica que la distancia con LoRA crece a medida que aumenta el conjunto de datos: en tareas complejas LoRA se estanca y tener más parámetros entrenables no lo resuelve. Son resultados propios de AWS en una sola tarea de programación, así que dicen poco sobre texto de atención al cliente o de ventas.
Dónde falla
La publicación es franca sobre los inconvenientes:
- El FFT no siempre es mejor. En una comparación, LoRA obtuvo un 81,5 % en LLM-as-Judge frente a un 79,5 % del FFT.
- Ambos métodos quedaron por debajo del modelo base en coincidencia exacta en MATH.
- Las tasas de aprendizaje de 5e-5 o superiores resultaron destructivas. Las puntuaciones en MATH bajaron al 2-3 % y la precisión en MMLU al 3,6 %, lo que AWS llama olvido catastrófico.
- Pasar de tres épocas empeoró todas las variantes probadas, aunque la pérdida de entrenamiento seguía mejorando.
La configuración que mejor conservó el conocimiento general, medido en MMLU, usó un calentamiento del 5 %, tamaño de lote 8 y tasa de aprendizaje de 2e-5. AWS las presenta como puntos de partida, ya que los valores adecuados varían según la tarea.
Cómo empezar
El trabajo se lanza con el SDK de Python de SageMaker. Cambiar entre FFT y LoRA consiste en modificar un único parámetro de tipo de entrenamiento en el entrenador; el resto del código no cambia. La evaluación integrada incluye LLM-as-Judge, un evaluador de similitud de código llamado PRIMECODE y MMLU como control del conocimiento general olvidado. La publicación remite a la documentación de AWS para consultar la lista de modelos base compatibles con FFT.