Команда IBM Granite опубликовала в блоге Hugging Face заметку о Granite Switch 4.1.1, чуть более чем через неделю после выхода Granite Switch 4.1. В IBM называют релиз патчем и используют номер версии так, как принято у разработчиков: он полностью обратно совместим с 4.1, не требует миграции и приносит постепенные улучшения.
Что изменилось
Обновлены два компонента:
- Модель Granite Speech ASR. Она переводит речь в текст на 10 языках и сразу расставляет пунктуацию и заглавные буквы. По словам IBM, благодаря этому расшифровки готовы для следующих моделей в цепочке без отдельного шага форматирования.
- Адаптер Decision в granitelib-core. IBM сообщает об улучшении общего результата на тестовом наборе Jev Decision Index. Это собственный результат IBM из публикации, цифр в заметке нет.
Почему главное здесь - сам процесс выпуска
В заметке подчёркивают, как быстро собрали обновление. Обучать пришлось только новую модель ASR и адаптер Decision. Остальное не пересчитывали, а базовую модель не трогали. Пользователи сами собирают нужные версии адаптеров и разворачивают их.
Это следует из архитектуры Switch, представленной вместе с версией 4.1: языковая модель настраивается со специализированными адаптерами, которые сохраняют эффективность кэша, и новые навыки добавляются на одном эндпоинте. Поэтому правка одной возможности не требует замены всей модели.
Что IBM обещает дальше
IBM работает над руководствами и Adapter SDK. С его помощью разработчики и сторонние вендоры смогут создавать собственные адаптеры, выпускать новые версии, пробовать функции и обновляться так же, как с обычным программным обеспечением. Сроков для обоих пунктов нет, в заметке сказано лишь, что информации станет больше.
Где попробовать
В заметке указаны три модели и одно демо в Space. Демо Speech to Decisions with Granite показывает, как одна модель Granite Switch слушает живую речь и оценивает её, и демонстрирует новые многоязычные возможности и работу с пунктуацией.
Чего в источнике нет
В заметке не перечислены 10 языков, не приведены результаты точности модели речи и не описаны условия лицензии или цены. Решение о переходе на обновление стоит принимать по итогам теста на ваших собственных аудиозаписях.