Ferramentas para operar LLMs auto-hospedáveis

Número e barra: visitas/mês, estimativa · ano: no ar desde

1. #14G

   GreenPT

   Oferece chat de IA, APIs e ferramentas especializadas em infraestrutura europeia com energia renovável e acompanhamento transparente do consumo.

   28k
   Ativo
   A partir de ≈ R$ 25/mês
   2025
2. #19L

   LiteLLM

   Roteia requisições através de 140+ provedores de LLM e 1800+ modelos por um gateway de API único com otimização de custos e controles de acesso.

   15.2k
   Ativo
   Plano gratuito
   2023
3. #22L

   Liquid AI

   Distribui pequenos modelos base otimizados para executar em dispositivos sem enviar dados para servidores.

   11.3k
   Ativo
   Plano gratuito
   2023
4. #30B

   Baseten

   Implanta e serve modelos de AI em produção com inference otimizado em infraestrutura em nuvem.

   5.9k
   Ativo
   Plano gratuito
   2019
5. #42O

   OmniRoute

   Roteia solicitações para 352 provedores de modelos por meio de um único endpoint compatível com OpenAI e faz fallback automaticamente quando um provedor está indisponível ou sem cota.

   641
   Ativo
6. #53E

   EvoX Genesis

   Tempo de execução acelerado por GPU para agentes, modelos e fluxos de trabalho autoeducáveis com algoritmos evolutivos.

   132
   Ativo
7. #58I

   Inferencer

   Executa e inspeciona grandes modelos de linguagem localmente com controle em nível de token e inferência distribuída.

   77
   Ativo
   A partir de ≈ R$ 50/mês
8. #81N

   NoemaAI Launch

   Executa modelos de linguagem localmente em dispositivos Apple com busca de arquivos e integração de ferramentas, sincronizando entre Mac, iPhone, iPad e Vision Pro.

   20
   Ativo
   Grátis
9. #89L

   Lekh AI

   Executa grandes modelos de linguagem, gera imagens e vídeos, e cria música totalmente no dispositivo sem internet ou coleta de dados.

   16
10. #90O

    Outlier

    Executa modelos de linguagem grandes localmente em Macs com Apple Silicon para programação, edição de arquivos e pesquisa sem enviar dados para servidores.

    16
    Ativo
    A partir de ≈ R$ 1.257 pagamento único
11. #92L

    LiberaGPT

    Executa grandes modelos de linguagem completamente offline em dispositivos iPhone e Android sem assinaturas ou coleta de dados.

    14
    Ativo
    Grátis
12. #107G

    Gridlight

    Executa inferência de AI no seu próprio hardware com roteamento de modelos, governança de custos e controles de residência de dados.

    3
    Ativo
    Falar com vendas
13. #109B

    Bodhi App

    Gateway unificado para executar modelos de linguagem locais, APIs em nuvem e ferramentas MCP através de uma única interface de chat.

    3
    Ativo
14. #114B

    Bike4MindMCP · aberto

    Executa chats, tarefas de agentes e artefatos interativos em modelos de fronteira hospedados e em modelos de pesos abertos auto-hospedados, a partir de uma única área de trabalho.

    3
    Ativo
    A partir de ≈ R$ 151/mês
15. #120M

    mlx-serve

    Executa modelos de linguagem de código aberto e ferramentas generativas localmente no Mac, com capacidades de chat, geração de imagens, clonagem de voz e agentes.

    2
    Ativo
16. #131B

    Base Compute

    Otimiza grandes modelos de linguagem para executar localmente em hardware de dispositivos com latência e custo mínimos.

    1
    Ativo
17. #132F

    Fortaify

    Executa modelos de linguagem, geração de imagens e processamento de voz localmente no seu dispositivo sem enviar dados para a nuvem.

    1
    Ativo
    A partir de ≈ R$ 45/mês
18. #149P

    PandaProbe

    Rastreia execuções de agentes, avalia resultados e gera correções validadas para que agentes aprendam com falhas de forma autônoma.

    99 domínios que linkam
    Ativo
    A partir de ≈ R$ 146/mês
19. #151Y

    Your Own AI

    Executa modelos de linguagem grandes localmente em sua máquina com roteamento opcional para a nuvem para modelos de fronteira.

    60 domínios que linkam
    Ativo
    A partir de ≈ R$ 1.010/ano
20. #154C

    co/core

    Executa modelos de IA de código aberto no hardware compartilhado de membros usando uma API padrão compatível com clientes OpenAI.

    44 domínios que linkam
    Ativo
21. #159V

    varCHAR

    Treina modelos de linguagem específicos do domínio dentro de sua rede sem exportar dados.

    39 domínios que linkam
    Ativo
    A partir de ≈ R$ 75.735 pagamento único
    2025
22. #166A

    AI Cost Gate

    Gateway de hospedagem própria que registra os metadados das chamadas de LLM e aplica orçamentos de gasto por projeto e por agente.

    27 domínios que linkam
    Ativo
    A partir de ≈ R$ 146 pagamento único
23. #172Z

    zizka.ai

    Armazena traços de execução de agentes, reproduz sessões e detecta desvios de comportamento em produção.

    29 domínios que linkam
    Ativo
24. #173S

    Splyntra

    Traces AI agent runs with per-step cost and risk scoring, and flags prompt injection and secrets in tool calls.

    23 domínios que linkam
    Ativo
    A partir de ≈ R$ 101/mês
25. #182K

    KernelAI

    Executa 53 modelos de linguagem de código aberto localmente no seu telefone sem conta ou internet necessários.

    20 domínios que linkam
    Ativo
26. #188D

    Dryade

    Orquestra agentes de modelos de linguagem em seus servidores com fluxos de trabalho orientados por políticas, roteamento de ferramentas e trilhas de auditoria criptográficas.

    Emergente
    Ativo
    A partir de ≈ R$ 277/usuário/mês
27. #191D

    Decentralized AI Protocol/Launchpad

    Protocolo descentralizado de IA onde mineradores ganham recompensas por computação em GPU e desenvolvedores lançam modelos de IA na Solana.

    Emergente
28. #198J

    jitllm

    Executa inferência de LLMs compilando kernels para suas CPUs e GPUs e carregando blocos do modelo a partir do disco conforme necessário.

    52 ★
    Ativo
29. #201R

    Ryuksaidso MVP

    Gerencia a execução de agentes com rastreamento, aprovações e failover entre múltiplos provedores para sistemas AI em produção.

    Poucos sinais de uso
    Ativo
30. L

    Libra

    Executa modelos de linguagem grandes compactados localmente em Macs com Apple silicon, usando o framework MLX.

    1
    Ativo
    A partir de ≈ R$ 59/mês
31. T

    Titen

    Armazena a memória do agente como observações e afirmações com fontes, compila pacotes de contexto com orçamento e os entrega por meio de uma API e do MCP.

    1.6k instalações/mês
    Ativo