jitllm
Executa inferência de LLMs compilando kernels para suas CPUs e GPUs e carregando blocos do modelo a partir do disco conforme necessário.
ainda não lido
Uso
- Para
- para quem executa LLMs em suas próprias CPUs e GPUs, localmente ou em um servidor
- Preço
- Preço não lido
- Atividade
- Mantida ativamenteversão há 2 dias
- Empresa
- Domínio desde 2026domínio registrado
- Roda como
- APIAuto-hospedado
- converter pesos GGUF ou do Hugging Face em arquivos jlm
- servir modelos locais por trás de APIs compatíveis com OpenAI e Anthropic
- Domínio desde2026domínio registrado
Número e barra: visitas/mês, estimativa · ano: no ar desde
- #1
NoemaAI Launch
Executa modelos de linguagem localmente em dispositivos Apple com busca de arquivos e integração de ferramentas, sincronizando entre Mac, iPhone, iPad e Vision Pro.
20AtivoGrátis - #2
mlx-serve
Executa modelos de linguagem de código aberto e ferramentas generativas localmente no Mac, com capacidades de chat, geração de imagens, clonagem de voz e agentes.
2Ativo— - #3
Fortaify
Executa modelos de linguagem, geração de imagens e processamento de voz localmente no seu dispositivo sem enviar dados para a nuvem.
1AtivoA partir de ≈ R$ 45/mês - #4
Your Own AI
Executa modelos de linguagem grandes localmente em sua máquina com roteamento opcional para a nuvem para modelos de fronteira.
60 domínios que linkamAtivoA partir de ≈ R$ 1.005/ano - #5
Tensorant
Ajusta e serve modelos de peso aberto em suas GPUs na nuvem com gerenciamento de datasets e avaliação.
Poucos sinais de usoAtivoA partir de ≈ R$ 497/mês - #6
NVIDIAMCP · com login
Projeta GPUs e plataformas de computação AI para data centers, jogos e sistemas embarcados.
12.6MAtivoA partir de ≈ R$ 2.008 pagamento único1993
O que é jitllm?
Executa inferência de LLMs compilando kernels para suas CPUs e GPUs e carregando blocos do modelo a partir do disco conforme necessário. No Atlas, está em Operação de LLM.
Para quem é jitllm?
para quem executa LLMs em suas próprias CPUs e GPUs, localmente ou em um servidor
As pessoas usam jitllm?
Emergente.
jitllm continua mantida?
Mantida ativamente: versão há 2 dias.
Quais são as alternativas a jitllm?
Em Operação de LLM, por uso: NoemaAI Launch, mlx-serve, Fortaify, Your Own AI, Tensorant, NVIDIA.
Não é bem isso? Descreva a tarefa
betaCinco ferramentas do Atlas que servem, cada uma avaliada pelo que você escreveu.
Como lemos uma ferramenta
Sem votos, sem avaliações, sem alegações do fornecedor. Toda semana um rastreador lê o próprio site de cada ferramenta e alguns registros públicos, e as palavras no cartão são faixas sobre o que ele leu.
- Uso: visitas ao site (estimadas), instalações do npm e do PyPI, presença no relatório de uso do Chrome.
- Atividade: a versão mais recente no GitHub, npm ou PyPI; a página datada mais recente do site; vagas abertas em um quadro público.
- Preço: a própria página de preços do fornecedor, lida com data. Um número só é impresso quando está naquela página.
- A linha e os casos de uso são escritos por nós a partir da página inicial, ferramenta a ferramenta, e recusados quando repetem o marketing do fornecedor.
Como os assistentes de IA leem cada site — a leitura sobre a qual os fornecedores nos perguntam — está na página de visibilidade de cada ferramenta.