jitllm
Выполняет инференс LLM, компилируя ядра для ваших CPU и GPU и подгружая блоки модели с диска по мере необходимости.
ещё не прочитано
Использование
- Для кого
- для тех, кто запускает LLM на своих CPU и GPU, локально или на сервере
- Цена
- Цена не прочитана
- Активность
- Активно развиваетсярелиз 2 дн. назад
- Компания
- Домен с 2026домен зарегистрирован
- Формат
- APIСвоя установка
- конвертировать веса GGUF или Hugging Face в файлы jlm
- раздавать локальные модели через API, совместимые с OpenAI и Anthropic
- Домен с2026домен зарегистрирован
Цифра и полоса: визитов/мес, оценка · год: в сети с
- #1
Regolo.ai
Предоставляет языковые модели, совместимые с OpenAI, из центров обработки данных ЕС с нулевым сохранением данных.
162ЖивойОт ≈ $44/мес - #2
CoralBricks
Предоставляет открытые языковые модели через API, совместимый с OpenAI, оптимизированный для агентов кодирования и исследований.
22Живой— - #3
AIWave
Маршрутизирует запросы с длинным контекстом к нескольким китайским LLM-провайдерам через единый API, совместимый с OpenAI.
3ЖивойОт $0,04 за использование - #4
Corbenic AI
Обнаруживает и пропускает избыточные вычисления LLM для снижения затрат на инференс до 98 процентов.
149 ссылающихся доменовЖивойОт $5,12/мес - #5
Neurogrid Community Cloud
Маршрутизирует AI inference-нагрузки на распределённые GPU от участников сообщества с OpenAI-совместимым API.
Набирает аудиториюЖивой— GateCtr
Сжимает промпты, маршрутизирует запросы на более дешёвые модели и устанавливает лимиты бюджета через подмену endpoint.
5не прочитаноОт $29/мес2026
Что такое jitllm?
Выполняет инференс LLM, компилируя ядра для ваших CPU и GPU и подгружая блоки модели с диска по мере необходимости. В Атласе он в категории «Эксплуатация LLM».
Для кого jitllm?
для тех, кто запускает LLM на своих CPU и GPU, локально или на сервере
Пользуются ли jitllm?
Набирает аудиторию.
jitllm ещё развивают?
Активно развивается: релиз 2 дн. назад.
Чем заменить jitllm?
В категории «Эксплуатация LLM», по использованию: Regolo.ai, CoralBricks, AIWave, Corbenic AI, Neurogrid Community Cloud, GateCtr.
Не то? Опишите задачу
бетаПять инструментов из Атласа, каждый проверен по тому, что вы написали.
Как мы читаем инструмент
Без голосов, без отзывов, без заявлений вендора. Каждую неделю краулер читает собственный сайт инструмента и несколько публичных реестров, а слова на карточке - полосы над тем, что он прочитал.
- Использование: визиты на сайт (оценка), установки из npm и PyPI, присутствие в отчёте Chrome об использовании.
- Активность: последний релиз на GitHub, npm или PyPI; самая свежая датированная страница сайта; открытые вакансии на публичной доске.
- Цена: собственная страница цен вендора, прочитанная с датой. Число печатается, только если оно есть на той странице.
- Строку и сценарии пишем мы сами по главной странице, по одному инструменту за раз, и отбраковываем, когда они повторяют маркетинг вендора.
Как AI-ассистенты читают каждый сайт - чтение, о котором нас спрашивают вендоры, - на отдельной странице видимости каждого инструмента.