Ferramentas para operar LLMs com API

Número e barra: visitas/mês, estimativa · ano: no ar desde

1. #3O

   OpenRouter

   Roteia requisições de API para 500 modelos de linguagem em 80 provedores através de uma interface unificada.

   224k
   Ativo
   A partir de ≈ R$ 28/mês
   2023
2. #4A

   AI21

   Roteia requisições entre modelos de código aberto e modelos de fronteira para reduzir custos de tokens mantendo qualidade.

   103k
   Ativo
   A partir de ≈ R$ 1,01 por uso
   2017
3. #7M

   Mistral

   Fornece modelos de linguagem de ponta, agentes e infraestrutura para construir sistemas de IA personalizados.

   63.6k
   Ativo
   A partir de ≈ R$ 76/usuário/mês
   2023
4. #9M

   Modal

   Executa cargas de trabalho de inference, training e batch processing em GPUs com autoscaling instantâneo e cold starts em menos de um segundo.

   52.1k
   Ativo
   A partir de ≈ R$ 0/mês
5. #10T

   Truefoundry

   Roteia requisições para modelos de linguagem e agentes com observabilidade, controles de acesso e implantação em infraestrutura em nuvem ou local.

   46.2k
   Ativo
   A partir de ≈ R$ 126/usuário/mês
6. #11R

   Replicate

   Executa e ajusta modelos de aprendizado de máquina através de uma API com uma única linha de código.

   37k
   Ativo
   A partir de ≈ R$ 0 por uso
7. #12T

   Together AI

   Executa modelos de linguagem de código aberto com inferência serverless, processamento em lote e clusters de GPU.

   32.7k
   Ativo
   2022
8. #14G

   GreenPT

   Oferece chat de IA, APIs e ferramentas especializadas em infraestrutura europeia com energia renovável e acompanhamento transparente do consumo.

   28k
   Ativo
   A partir de ≈ R$ 25/mês
   2025
9. #16W

   Weights & Biases

   Registra experimentos de machine learning, gerencia modelos e datasets e monitora aplicações de IA em produção.

   21.2k
   Ativo
   A partir de ≈ R$ 303/mês
   2017
10. #17G

    GMI Cloud

    Executa inferência de modelos de IA e agentes em infraestrutura GPU sem servidor ou dedicada com escalabilidade automática.

    19.7k
    Ativo
    A partir de ≈ R$ 10 por uso
11. #19L

    LiteLLM

    Roteia requisições através de 140+ provedores de LLM e 1800+ modelos por um gateway de API único com otimização de custos e controles de acesso.

    15.2k
    Ativo
    Plano gratuito
    2023
12. #22L

    Liquid AI

    Distribui pequenos modelos base otimizados para executar em dispositivos sem enviar dados para servidores.

    11.3k
    Ativo
    Plano gratuito
    2023
13. #24F

    Fireworks AI

    Hospeda modelos abertos de linguagem e imagem para inferência rápida via API, com fine-tuning e implantações dedicadas em GPU.

    8.7k
    Ativo
    A partir de ≈ R$ 0,04 por uso
14. #25L

    Langfuse

    Rastreia, avalia e monitora aplicações de modelos de linguagem em produção com observabilidade e gerenciamento de prompts.

    7.5k
    Ativo
    A partir de ≈ R$ 146/mês
15. #28B

    Barndoor AI

    Roteia as requisições a modelos e agentes de IA por controles de acesso, prevenção de vazamento de dados e log de auditoria antes de chegarem ao modelo.

    6.5k
    Ativo
    Falar com vendas
16. #30B

    Baseten

    Implanta e serve modelos de AI em produção com inference otimizado em infraestrutura em nuvem.

    5.9k
    Ativo
    Plano gratuito
    2019
17. #31P

    Portkey

    Direciona solicitações para 1.600 modelos de linguagem por meio de uma API unificada, com observabilidade, guardrails e gerenciamento de prompts.

    5.9k
    Ativo
    A partir de ≈ R$ 247/mês
18. #33S

    Supermemory MCP

    Armazena e recupera memória de longo prazo para agentes de IA via API, indexando conversas e arquivos e injetando contexto relevante nos prompts.

    4.6k
    Ativo
    A partir de ≈ R$ 96/mês
19. #34M

    Maxim AI

    Simula, avalia e monitora agentes de IA e apps LLM, com datasets de teste, avaliadores automáticos e humanos, rastreamento em produção e um gateway open source.

    4.2k
    Ativo
    Plano gratuito
20. #35H

    Humanloop

    Humanloop se uniu à Anthropic e está descontinuando sua plataforma.

    3.6k
    Mantido
    Plano gratuito
21. #36H

    Helicone

    Roteia, depura e analisa chamadas de API de LLM com observabilidade e monitoramento.

    2.7k
    Ativo
    A partir de ≈ R$ 399/mês
22. #39A

    Agent Forge

    Fornece infraestrutura de computação GPU descentralizada e coordena agentes de IA autônomos em uma rede.

    1.1k
    Ativo
    A partir de ≈ R$ 101/mês
23. #40L

    LLM Gateway Chat

    Roteia requisições através de 40 provedores de LLM por uma API unificada com rastreamento de custos e failover automático.

    989
    Ativo
    A partir de ≈ R$ 25 por uso
24. #41A

    Aleph Alpha

    Desenvolve modelos de linguagem grandes especializados e soberanos para aplicações críticas de negócio com serviços de customização e otimização.

    820
    Ativo
    2019
25. #42O

    OmniRoute

    Roteia solicitações para 352 provedores de modelos por meio de um único endpoint compatível com OpenAI e faz fallback automaticamente quando um provedor está indisponível ou sem cota.

    641
    Ativo
26. #44C

    Cyfuture AI

    Fornece infraestrutura GPU, inferência de modelos, fine-tuning e aplicações de IA incluindo chatbots, agentes de voz e sistemas RAG.

    397
    Ativo
    A partir de ≈ R$ 3,03 por uso
    2001
27. #45F

    FastRouter.ai

    Roteia requisições através de 200+ LLMs por meio de uma única API compatível com OpenAI com failover inteligente e otimização de custos.

    319
    Ativo
    A partir de ≈ R$ 1.005/mês
28. #46O

    OminiGate

    Roteia requisições para modelos de texto, imagem e vídeo de múltiplos provedores através de um único endpoint de API.

    298
    Ativo
    A partir de ≈ R$ 0,05 por uso
    2025
29. #47W

    wafer

    Otimiza a inferência de modelos de linguagem para reduzir latência e aumentar throughput.

    224
    Ativo
30. #48M

    MegaLLM

    Roteia requisições através de 70 modelos de linguagem, selecionando automaticamente o provedor mais barato e rápido.

    167
    Ativo
31. #49R

    Regolo.ai

    Fornece modelos de linguagem compatíveis com OpenAI de datacenters da UE com retenção zero de dados.

    162
    Ativo
    A partir de ≈ R$ 221/mês
32. #53E

    EvoX Genesis

    Tempo de execução acelerado por GPU para agentes, modelos e fluxos de trabalho autoeducáveis com algoritmos evolutivos.

    132
    Ativo
33. #56A

    AI Stats

    Roteia requisições entre provedores de modelos de IA através de um gateway de API unificado compatível com OpenAI.

    97
    Ativo
    A partir de ≈ R$ 5,05 por uso
34. #57G

    GPU FinderMCP · aberto

    Compares on-demand and spot cloud GPU prices, egress fees and stock levels across 31 providers for hourly-refreshed searches.

    83
    Ativo
35. #63E

    EmpirioLabs AIMCP · com login

    Hospeda modelos de código aberto em suas próprias GPUs e oferece endpoints de modelos proprietários por meio de uma interface de chat e API.

    46
    Ativo
    A partir de ≈ R$ 100/mês
    2025
36. #64F

    flatkey.ai

    Roteia requisições através de 100+ modelos de IA e 1000+ ferramentas usando uma única chave API e faturamento unificado.

    38
    Ativo
    A partir de ≈ R$ 50/mês
37. #67A

    A4F

    Roteia requisições para centenas de modelos de linguagem através de uma única API com failover automático de provedor.

    35
    Ativo
    A partir de ≈ R$ 126/mês
38. #68R

    RedPill

    Roteia requisições de inferência de IA através de ambientes de execução confiáveis verificados com caminhos criptografados e provas criptográficas.

    32
    Ativo
    A partir de ≈ R$ 0,05 por uso
39. #69C

    CostPerPrompt

    Exibe preços atuais para 313 modelos de linguagem de diferentes fornecedores e calcula custos mensais de API.

    32
    Ativo
    Grátis
40. #70S

    Sunbird AIMCP · com login

    Modelo de linguagem conversacional de código aberto e API de fala para línguas africanas, além de localização de sítios por satélite para minirredes solares.

    32
    Ativo
    2019
41. #71N

    Nerra

    Constrói uma camada de memória compartilhada a partir de suas ferramentas empresariais e a fornece a agentes de IA via MCP.

    31
    Ativo
    2024
42. #73D

    DecionisMCP · com login

    Avalia ações de agentes de IA e sistemas automatizados em relação a uma política e retorna allow, escalate ou block, com registros de decisão assinados.

    27
    Ativo
    A partir de ≈ R$ 247/mês
    2026
43. #75P

    Plano

    Roteia prompts e orquestra agentes com observabilidade, guardrails e seleção de modelo.

    26
    Ativo
    Open source
44. #77A

    ApexApi

    Roteia requisições para 130 modelos de IA através de uma única chave API e endpoint compatível com OpenAI.

    24
    Ativo
    A partir de ≈ R$ 50 por uso
45. #79P

    Phoenix Grove Systems™

    Fornece acesso a modelos de linguagem de código aberto com arquitetura orientada à privacidade e memória persistente entre conversas.

    22
    Ativo
46. #80C

    CoralBricks

    Fornece modelos de linguagem de código aberto através de uma API compatível com OpenAI otimizada para agentes de codificação e pesquisa.

    22
    Ativo
47. #83T

    TrustedRouter

    Roteia requisições entre provedores de modelos de IA através de uma API compatível com OpenAI com privacidade verificável e sem registro de prompts.

    19
    Ativo
    A partir de ≈ R$ 28 por uso
48. #84F

    FloTorch

    Roteia requisições entre múltiplos LLMs e gerencia pipelines RAG com observabilidade e cache para implantações empresariais.

    18
    Mantido