Together AI выпустила together/Tev1-4B-experimental - классификационную модель на базе Qwen3.5 4B, доступную на её платформе, а вместе с ней - пошаговое руководство по дообучению аналогичной модели.
Модель принимает блок состояния (например, сообщение в поддержку) и фиксированный набор вариантов ответа, а возвращает один ярлык - оценку, булево значение или букву варианта - вместо свободного текста. В примере Together показано построение классификатора намерений поддержки: по сообщению о повторном списании средств по подписке модель корректно выбирает ярлык "duplicate_charge" из четырёх вариантов.
В руководстве описан пайплайн обучения. Набор данных для дообучения из 37 840 примеров собран из шести открытых источников - MultiNLI, BoolQ, Banking77, AG News, SST-5, а также внутренних наборов по программным политикам и маршрутизации, охватывающих классификацию намерений, понимание в формате да/нет, определение тональности и правило-ориентированные решения. Обучение на этом наборе для Qwen3.5 4B стоит около 17 долларов и занимает примерно 25 минут на сервисе дообучения Together, после чего модель разворачивается на выделенном HTTP-эндпоинте (в примере используется один GPU H100).
Together указывает точные параметры инференса, необходимые для воспроизведения детерминированного вывода: temperature=0, max_tokens=8 и enable_thinking=false, плюс системный промпт, предписывающий модели трактовать поле состояния как данные, а не инструкции, и возвращать только букву выбранного варианта.
Компании, которые не хотят обучать собственную версию, могут напрямую обращаться к together/Tev1-4B-experimental на serverless-платформе Together, минуя этапы дообучения.