Saltar al contenido

SageMaker suma ajuste fino completo a su modo serverless

Respuesta corta

Amazon SageMaker AI Serverless Model Customization ya admite el ajuste fino completo, que actualiza todos los pesos del modelo. En las pruebas propias de AWS con una tarea de código, supera a LoRA cuando los datos pasan de 100K ejemplos. Las mismas pruebas muestran que puede borrar conocimiento general si la tasa de aprendizaje o las épocas son demasiado altas.

Qué significa para las operaciones

La mayoría de las empresas B2B de 10 a 200 personas no lo necesitará: si su asistente de soporte o ventas parte de unos pocos miles de ejemplos, LoRA sigue siendo la opción razonable por defecto, y la fuente no reporta ventaja del ajuste fino completo a esa escala. Empieza a ser relevante si tienes un archivo grande y limpio de tickets, resúmenes de llamadas o salidas estructuradas y quieres que un modelo pequeño y especializado sustituya a uno general más caro. Antes de comprometerte, ejecuta ambos métodos con tu propio conjunto reservado para evaluación, ya que en las pruebas de AWS el cambio entre ellos es una sola línea. Añade también una comprobación de conocimiento general, porque un modelo que mejora en tu tarea puede empeorar sin avisar en todo lo demás.

AWS ha incorporado el ajuste fino completo (FFT, por sus siglas en inglés) a Amazon SageMaker AI Serverless Model Customization, según una publicación del blog de aprendizaje automático de AWS. El servicio ya admitía LoRA, un método más ligero que entrena pequeñas matrices adicionales. El FFT, en cambio, actualiza todos los pesos del modelo. AWS afirma que los usuarios no aprovisionan GPU, no montan clústeres ni configuran entrenamiento distribuido. La publicación no indica precios ni fecha de despliegue.

Qué probó AWS

Los experimentos usaron ajuste fino supervisado sobre el modelo base Qwen3-4B con el conjunto Magicoder-Evol-Instruct-110K, de 110.000 pares de instrucciones de programación. AWS lo dividió en 99.000 registros de entrenamiento, 5.500 de validación y 5.500 reservados para la prueba final. Ambos métodos recibieron los mismos prompts, los mismos objetivos y el mismo código de evaluación. La publicación añade que el equipo también hizo experimentos con DeepSeek-R1-1.5B, Nemotron-30B y Gemma-4-26B. Cada ejecución tardó unas horas desde el envío hasta los resultados, y los modelos terminados se registraron automáticamente en SageMaker Model Registry.

Con más de 100K ejemplos de entrenamiento, el FFT alcanzó un 90,0 % en una puntuación de corrección de generación de código evaluada con LLM-as-Judge. AWS indica que la distancia con LoRA crece a medida que aumenta el conjunto de datos: en tareas complejas LoRA se estanca y tener más parámetros entrenables no lo resuelve. Son resultados propios de AWS en una sola tarea de programación, así que dicen poco sobre texto de atención al cliente o de ventas.

Dónde falla

La publicación es franca sobre los inconvenientes:

  • El FFT no siempre es mejor. En una comparación, LoRA obtuvo un 81,5 % en LLM-as-Judge frente a un 79,5 % del FFT.
  • Ambos métodos quedaron por debajo del modelo base en coincidencia exacta en MATH.
  • Las tasas de aprendizaje de 5e-5 o superiores resultaron destructivas. Las puntuaciones en MATH bajaron al 2-3 % y la precisión en MMLU al 3,6 %, lo que AWS llama olvido catastrófico.
  • Pasar de tres épocas empeoró todas las variantes probadas, aunque la pérdida de entrenamiento seguía mejorando.

La configuración que mejor conservó el conocimiento general, medido en MMLU, usó un calentamiento del 5 %, tamaño de lote 8 y tasa de aprendizaje de 2e-5. AWS las presenta como puntos de partida, ya que los valores adecuados varían según la tarea.

Cómo empezar

El trabajo se lanza con el SDK de Python de SageMaker. Cambiar entre FFT y LoRA consiste en modificar un único parámetro de tipo de entrenamiento en el entrenador; el resto del código no cambia. La evaluación integrada incluye LLM-as-Judge, un evaluador de similitud de código llamado PRIMECODE y MMLU como control del conocimiento general olvidado. La publicación remite a la documentación de AWS para consultar la lista de modelos base compatibles con FFT.

Fuente: AWS Machine Learning Blog

Siguiente paso

Visibility Analyzer

Una noticia sobre IA no dice cómo los asistentes ven tu sitio. El Visibility Analyzer lo comprueba en el sitio real: qué respuestas te citan, qué páginas el motor no puede recuperar y qué arreglar primero. Ejecutarlo es gratis.

Lanzar una auditoría de visibilidad gratuita

Lanzarlo es gratis. Sin tarjeta.

Precio
Gratis
Duración
Una ejecución, minutos

Plan gratuito: dos análisis al día, sin tarjeta.