Salesforce представила Koa Decisions - следующую версию модели HyperClassifier, которая маршрутизирует запросы внутри Agentforce. Это модель решений: она не пишет текст, а выдаёт выбор. Например, называет один пункт из набора, отвечает «да» или «нет» либо ставит оценку.
Что она делает
Koa Decisions получает запрос и набор категорий, который задаёте вы, и принимает решение за один шаг, за миллисекунды. В примере Salesforce клиент пишет, что не может войти в систему. Модель выбирает между инженерами, отделом учётных записей и продажами и возвращает оценку уверенности по каждому варианту.
По словам Salesforce, модель создана с помощью новых методов обучения, применённых к Gemma - открытой модели Google. По сравнению с HyperClassifier добавилась мультимодальность: помимо текста модель принимает изображения и аудио.
Скорость и стоимость
Разрыв компания объясняет тем, как отвечают два типа моделей. LLM формирует ответ по токенам, а модель решений читает запрос целиком и сразу выдаёт короткий ответ. В замерах Salesforce на запросах маршрутизации в Agentforce модель решений уложилась примерно в 26 миллисекунд, а универсальной LLM потребовалось около 1,4 секунды. Это замер вендора на одной задаче, а не независимый бенчмарк.
Меньше работы при настройке
Salesforce сравнивает новый подход со старым: собственная предиктивная модель требовала, чтобы команда определила результат, собрала и разметила данные, обучила модель, проверила точность и повторила цикл, нередко месяцами. Модель решений стартует с языковой модели, которая уже понимает связь между формулировками и категориями. Поэтому команда может добавить категорию и иногда выйти в продакшен за часы. В демо после добавления пункта «Возвраты» модель выбирала его для запроса о возврате без всякого переобучения.
Где это применимо
Salesforce отводит Koa Decisions быстрые развилки в рабочем процессе, а написание текстов и рассуждения оставляет за LLM. Пример компании - сделка, которая буксует: модель решений отмечает риск и выбирает команду, которая должна подключиться, а LLM резюмирует, что изменилось. Koa Decisions входит в семейство моделей Koa, где есть и отдельная модель для рассуждений, созданная вместе с NVIDIA.
Что ещё впереди
Salesforce планирует распространить модель за пределы маршрутизации: на Flow, Apex и шаблоны промптов для разработчиков решений, а также выпустить API. Цены в публикации нет, а о ценах, комплектации и региональной доступности сказано, что они могут измениться. Демо доступно любому через бесплатный аккаунт Trailhead, клиентом Salesforce для этого быть не нужно.
Salesforce также отмечает, что другие вендоры, включая TypeSafe AI и OpenAI, недавно выпустили собственные модели решений, так что такой слой становится стандартным в архитектуре агентов.