NVIDIA выпустила рецепты развёртывания на своём фреймворке Dynamo для четырёх открытых моделей из Кореи. Запись в блоге датирована 8 ноября 2026 года.
Какие модели охвачены
Рецепты подготовлены для A.X K2 от SK Telecom, K-EXAONE 2.0 от LG AI Research, Solar Open 2 от Upstage и Motif-3 от Motif Technologies.
Какую задачу решают рецепты
По логике NVIDIA, модели перерастают одну видеокарту. Их приходится делить между несколькими GPU, и тогда маршрутизацию запросов и обмен данными между картами нужно аккуратно согласовывать, иначе упадёт производительность. Dynamo - это открытый распределённый фреймворк для инференса, рассчитанный на развёртывание на нескольких узлах в масштабе дата-центра. Он берёт на себя эту маршрутизацию и коммуникацию.
Рецепты оптимизированы под GPU NVIDIA B200. По словам NVIDIA, они избавляют от подбора настроек вслепую и дают до 2x производительности из коробки. Компания подаёт их как способ быстрее вывести эти модели в продакшен и строить сервисы, которые она называет AI for All.
Чего в источнике нет
В публикации нет методики замеров, нет базового уровня, от которого считается 2x, нет данных о цене и доступности оборудования. Не сказано и то, как рецепты соотносятся с другими вариантами запуска моделей. Пока вы не проверили цифру на своей нагрузке, считайте её заявлением вендора.
Кому это интересно
Это инфраструктурная новость. Команды, которые обращаются к размещённой модели через API, изменений не заметят. Команды, которые запускают открытые модели на своих или арендованных GPU, получают документированную отправную точку для этих четырёх моделей и повод спросить хостинг-провайдера о поддержке Dynamo.