jitllm
Ejecuta inferencia de LLM compilando kernels para tus CPU y GPU y cargando bloques del modelo desde el disco según se necesitan.
aún no leído
Uso
- Para
- para personas que ejecutan LLM en sus propias CPU y GPU, de forma local o en un servidor
- Precio
- Precio no leído
- Actividad
- Mantenida activamenteversión hace 2 días
- Empresa
- Dominio desde 2026dominio registrado
- Se ejecuta como
- APIAutoalojado
- convertir pesos GGUF o de Hugging Face a archivos jlm
- servir modelos locales detrás de APIs compatibles con OpenAI y Anthropic
- Dominio desde2026dominio registrado
Cifra y barra: visitas/mes, estimación · año: en línea desde
- #1
Together AI
Ejecuta modelos de lenguaje de código abierto con inferencia sin servidor, procesamiento por lotes y clusters de GPU.
32.7kActivoDesde $0 por uso2022 - #2
GMI Cloud
Ejecuta inferencia de modelos de IA y agentes en infraestructura GPU sin servidor o dedicada con escalado automático.
19.7kActivoDesde $2 por uso - #3
Regolo.ai
Sirve modelos de lenguaje compatibles con OpenAI desde centros de datos de la UE sin retención de datos.
162ActivoDesde ≈ $44/mes - #4
Inferencer
Ejecuta e inspecciona grandes modelos de lenguaje localmente con control a nivel de token e inferencia distribuida.
77ActivoDesde $9,99/mes - #5
CoralBricks
Sirve modelos de lenguaje de código abierto a través de una API compatible con OpenAI optimizada para agentes de codificación e investigación.
22Activo— - #6
NoemaAI Launch
Ejecuta modelos de lenguaje localmente en dispositivos Apple con búsqueda de archivos e integración de herramientas, sincronizando entre Mac, iPhone, iPad y Vision Pro.
20ActivoGratis
¿Qué es jitllm?
Ejecuta inferencia de LLM compilando kernels para tus CPU y GPU y cargando bloques del modelo desde el disco según se necesitan. En el Atlas figura en Operación de LLM.
¿Para quién es jitllm?
para personas que ejecutan LLM en sus propias CPU y GPU, de forma local o en un servidor
¿La gente usa jitllm?
Emergente.
¿jitllm sigue mantenida?
Mantenida activamente: versión hace 2 días.
¿Qué alternativas hay a jitllm?
En Operación de LLM, por uso: Together AI, GMI Cloud, Regolo.ai, Inferencer, CoralBricks, NoemaAI Launch.
¿No es esto? Describe la tarea
betaCinco herramientas del Atlas que encajan, cada una evaluada según lo que escribiste.
Cómo leemos una herramienta
Sin votos, sin reseñas, sin afirmaciones del proveedor. Cada semana un rastreador lee el propio sitio de cada herramienta y unos pocos registros públicos, y las palabras de la tarjeta son bandas sobre lo que leyó.
- Uso: visitas al sitio (estimadas), instalaciones desde npm y PyPI, presencia en el informe de uso de Chrome.
- Actividad: la versión más reciente en GitHub, npm o PyPI; la página con fecha más reciente del sitio; vacantes abiertas en un tablón público.
- Precio: la propia página de precios del proveedor, leída con fecha. Una cifra se imprime solo cuando está en esa página.
- La línea y los casos de uso los escribimos nosotros a partir de la página de inicio, herramienta a herramienta, y se rechazan cuando repiten el marketing del proveedor.
Cómo leen los asistentes de IA cada sitio —la lectura por la que nos preguntan los proveedores— está en la página de visibilidad de cada herramienta.