Cloudflare выпустила две открытые "decision-модели", Clef и Clef-flash, размещенные на платформе Workers AI, вместе с новым продуктом для дообучения с подкреплением (RL).
В отличие от больших языковых моделей, которые генерируют произвольный текст, decision-модели созданы для получения ограниченных, типизированных ответов с вероятностными оценками на фиксированный набор вопросов - такой вывод, с которым рабочий процесс может работать напрямую, без разбора свободного текста. Пример Cloudflare: передать сообщение из поддержки и спросить, срочное ли оно, какая команда должна его обрабатывать и насколько серьезен эффект, - и получить структурированные ответы с вероятностными весами, которые код может использовать для маршрутизации тикета или эскалации к человеку.
Cloudflare сообщает, что Clef в настоящее время лидирует в бенчмарке Jev Decision Index и полностью совместима по API с моделями Jev от Typesafe AI, так что существующие интеграции могут заменить их на Clef без переделки. Обе модели выложены на Hugging Face под лицензией Apache 2.0 для локального использования, а также размещены на Workers AI для немедленного использования через API.
По скорости Cloudflare сообщает, что классификация домена сайта (загрузка, рендеринг и категоризация) с помощью Clef заняла 2,2 секунды и вернула больше категорий, против 4,7 секунды для универсальной LLM gpt-oss-120b на той же задаче, которая вернула только две классификации. Clef также добавляет визуальный энкодер для классификации изображений - возможность, которой у Jev сейчас нет, - и контекстное окно 64k против 32k у Jev.
Наряду с моделями Cloudflare запускает сервис RL-дообучения. Изначально это работает как индивидуальное сопровождение командой выделенных инженеров (FDE) Cloudflare; версия с самообслуживанием запланирована позже - она позволит клиентам собирать собственные данные запросов через AI Gateway от Cloudflare, генерировать обучающие прогоны на Workers AI и повторно развертывать дообученную модель Clef на инфраструктуре Cloudflare. Cloudflare заявляет, что не читает, не хранит и не обучается на запросах клиентов, если те не подключили этот продукт дообучения.