Перейти к содержимому

Плагин llm-gemini получил xhigh для моделей Gemini 4

Короткий ответ

Саймон Уиллисон выпустил llm-gemini 0.38.1 - исправление, которое позволяет плагину использовать уровень рассуждений xhigh в моделях Gemini 4 Hydrogen и Neon. Carbon останавливается на high. В его тесте Hydrogen на xhigh выдал намного больше выходных токенов и обошёлся заметно дороже, чем на high.

Что это значит для операций

Если ваша команда обращается к моделям Gemini 4 через скрипты или командную строку llm - для разбора тикетов, поиска по лидам или черновиков отчётов, - то уровень рассуждений теперь превращается в настройку расходов, которую вы выбираете под каждую задачу. Hydrogen на high потратил на один тестовый запрос 3,99 цента, на xhigh - 23,61 цента. Для рутинных запусков оставьте high по умолчанию, а xhigh берегите для немногих задач, где неверный ответ обходится дороже лишних затрат. Прежде чем менять какие-либо настройки по умолчанию, прогоните собственные промпты на обоих уровнях и сравните результат со счётом. Carbon не принимает xhigh, поэтому общий конфиг, который задаёт этот уровень для всех моделей, на ней работать не будет.

Саймон Уиллисон опубликовал llm-gemini 0.38.1 - небольшой релиз своего плагина, который подключает консольный инструмент LLM к моделям Gemini от Google.

Что изменилось

Три модели Gemini 4 по-разному работают с уровнями рассуждений. Carbon принимает low, medium и high. Hydrogen и Neon принимают те же три уровня и ещё четвёртый - xhigh. Уиллисон признаёт, что упустил это, когда впервые добавлял модели в плагин. Новый релиз исправляет ошибку, и теперь xhigh можно выбрать для Hydrogen и Neon.

Сколько стоит xhigh

Уиллисон также обновил свою сравнительную таблицу по Gemini 4: в ней один и тот же запрос на рисунок прогоняется через разные модели и настройки. Цифры по Hydrogen из этой таблицы:

  • На high: 5 311 выходных токенов, 3,99 цента.
  • На xhigh: 31 477 выходных токенов, 23,61 цента.

Результат на xhigh он называет заметным улучшением. Изображение, которое Hydrogen выдал на этом уровне, по его словам, не уступает тому, что получилось у Gemini 4 Neon. Это один неформальный тест на одном запросе: он показывает направление компромисса, но бенчмарком не является.

Что из этого следует

Релиз - это исправление совместимости в стороннем открытом плагине, а не анонс Google. О ценах самой Google и об изменениях в Gemini API источник ничего не сообщает. Зато он показывает, что высший уровень рассуждений у Hydrogen многократно увеличивает число выходных токенов и расходы на каждый вызов. Тому, кто задаёт уровень рассуждений в коде, нужно знать, какие модели какие уровни принимают и сколько каждый уровень стоит на реальных промптах.

Что проверить на практике

  • Обновите плагин, если используете Hydrogen или Neon и хотите получить xhigh.
  • Не включайте xhigh для Carbon в общих настройках: эта модель доходит только до high.
  • Записывайте число выходных токенов на вызов до и после смены уровня, чтобы стоимость была видна в ваших собственных цифрах.

Источник: Simon Willison

Инструменты из этой новости

  • Gemini - цена, кто пользуется, альтернативы
Следующий шаг

Visibility Analyzer

Новость об ИИ не скажет, как ассистенты видят ваш сайт. Это проверяет Visibility Analyzer на живом сайте: в каких ответах вас цитируют, до каких страниц ассистенты не добираются и что чинить первым. Запуск бесплатный.

Запустить бесплатный аудит видимости

Запуск бесплатный, карта не нужна.

Стоимость
Бесплатно
Срок
Один прогон, минуты

Бесплатный тариф: два анализа в день, без карты.

Ещё по теме