AWS расширила бессерверную кастомизацию моделей в Amazon SageMaker AI API сессий обучения, сообщает блог AWS Machine Learning. Цель - снять компромисс при дообучении LLM: полностью управляемые сервисы просты, но рецепт в них зафиксирован, а менее управляемые варианты дают контроль ценой самостоятельной работы с инфраструктурой.
Что делают API
Операции forward_backward(), optim_step() и sample() становятся вызовами API SageMaker в рамках живой сессии, где модель остаётся загруженной на GPU. Из них вы собираете любую нужную процедуру. Сервис берёт на себя настройку среды выполнения, распределённый запуск, синхронизацию градиентов, восстановление после сбоев и изоляцию клиентов. Сам цикл работает на вашей машине и обучает адаптер LoRA поверх выбранной базовой модели.
SageMaker Python SDK предоставляет три клиента, которые создаются по очереди: ServiceClient для настроек платформы (роль выполнения, место вывода в S3, необязательные ключ KMS и конфигурация VPC), TrainingClient для обучения и контрольных точек и SamplingClient для генерации и оценки. Активная сессия также отдаёт OpenAI-совместимую конечную точку chat completions.
Оплата и место среди других вариантов
Оплата идёт за обработанные токены. По данным AWS, пока ваш код оценивает пакет, загружает данные или пишет логи, время GPU не тарифицируется. Стоимость зависит от объёма датасета и генерации, а не от времени работы по часам или размера кластера.
AWS ставит эти API между двумя уже существующими вариантами. Они дают гораздо больше контроля над алгоритмом, чем управляемая бессерверная кастомизация, и требуют заметно меньше операционной работы, чем SageMaker Training Jobs или HyperPod. Работающая сессия учитывается в квоте одновременных сессий, пока её не остановят или она не истечёт.
Поддерживаемые техники и cookbook
Те же примитивы покрывают supervised fine-tuning с функцией потерь cross-entropy, обучение с подкреплением с потерями ppo, importance_sampling или cispo и собственные цели, например оптимизацию предпочтений или дистилляцию. AWS также выпустила cookbook по сессиям обучения с готовыми рецептами SFT и RL. Список поддерживаемых базовых моделей и регионов приведён в документации, в источнике его нет.
Результаты, о которых сообщает AWS
В примере с GRPO на математическом бенчмарке GSM8K, с адаптером LoRA для GPT-OSS 20B, 10 шагов обучения на 40 задачах подняли точность на отложенной выборке с 56 до 75 процентов. В рецепте cookbook по соревновательному программированию 50 шагов по 128 задач с 8 ответами на каждую, в два хода, подняли точность на 200 отложенных задачах с 40 до 50,5 процента. Это собственные прогоны AWS, а не независимые результаты.
Для кого это
AWS адресует API исследователям постобучения, командам, которым нужна нестандартная функция потерь или учебная программа данных, тем, кто строит агентное и многоходовое RL, и ML-инженерам, которым стало тесно в дообучении на конфигах.