Эксплуатация LLM252 инструментов

Цифра и полоса: визитов/мес, оценка · год: в сети с

1. #1O

   OpenAI

   Разрабатывает языковые модели GPT, а также модели для изображений и видео, доступные в приложении ChatGPT и через платный API.

   40.8M
   2015
2. #2N

   NVIDIAMCP · нужен вход

   Проектирует GPU, ускорители для дата-центров и сетевое оборудование, а также CUDA и программные стеки для обучения и запуска моделей ИИ, графики и игр.

   12.6M
   Живой
   От ≈ $399 разово
   1993
3. #3O

   OpenRouterMCP · нужен вход

   Направляет API-запросы к 500 языковым моделям от 80 провайдеров через единый интерфейс.

   224k
   Живой
   Есть бесплатный тариф
   2023
4. #4O

   Ollama

   Запускает языковые модели с открытым исходным кодом локально или в облаке, с доступом по API для агентов для программирования.

   193k
   Живой
   От $20/мес
   2023
5. #5A

   AI21

   Направляет запросы между открытыми и передовыми моделями, чтобы снизить затраты на токены при сохранении качества.

   103k
   Живой
   От $0,20 за использование
   2017
6. #6L

   LangChain

   Дает открытые фреймворки LangChain и LangGraph для LLM-приложений и агентов, а также LangSmith для трассировки, оценки и развертывания.

   92.2k
   Живой
   От $39/польз./мес
   2023
7. #7A

   Arena AI

   Ранжирует большие языковые модели в публичном рейтинге по результатам слепых попарных сравнений ответов, которые проводят пользователи.

   78.3k
   Живой
   2023
8. #8M

   Mistral

   Предоставляет передовые языковые модели, агенты и инфраструктуру для создания индивидуальных систем искусственного интеллекта.

   63.6k
   Живой
   От $14,99/мес
   2023
9. #9T

   Thinking Machines Lab

   Предоставляет Tinker - API для дообучения открытых языковых моделей методом LoRA, при этом распределенное обучение идет на инфраструктуре лаборатории.

   59.5k
   Живой
   От $0,33 за использование
   2025
10. #10M

    Modal

    Запускает инференс, обучение и пакетную обработку на GPU с мгновенным автомасштабированием и холодным стартом менее секунды.

    52.1k
    Живой
    От $250/мес
11. #11T

    Truefoundry

    Направляет запросы к языковым моделям и агентам с наблюдаемостью, контролем доступа и развёртыванием в облачной или локальной инфраструктуре.

    46.2k
    Живой
    От $25/польз./мес
12. #12R

    ReplicateMCP · нужен вход

    Запускает и дообучает модели машинного обучения через API одной строкой кода.

    37k
    Живой
    От $0,00 за использование
13. #13T

    Together AI

    Запускает открытые языковые модели с serverless-инференсом, пакетной обработкой и кластерами GPU.

    32.7k
    Живой
    2022
14. #14L

    LLM StatsMCP · нужен вход

    Ранжирует и сравнивает 300 моделей ИИ по интеллекту, скорости, цене и контекстному окну.

    29.1k
    Живой
15. #15G

    GreenPT

    Предоставляет ИИ-чат, API и специализированные инструменты на европейской инфраструктуре с возобновляемой энергией и прозрачным учетом энергопотребления.

    28k
    Живой
    От $5/мес
    2025
16. #16A

    Arize

    Наблюдает за поведением агентов, оценивает их работу с помощью evals и предлагает улучшения через автоматизированную отладку.

    27.2k
    Живой
    От $50/мес
17. #17W

    Weights & Biases

    Отслеживает эксперименты машинного обучения, ведет модели и датасеты и мониторит ИИ-приложения в продакшене.

    21.2k
    Живой
    Есть бесплатный тариф
    2017
18. #18G

    GMI CloudMCP · нужен вход

    Запускает инференс AI-моделей и агентов на бессерверной или выделенной GPU-инфраструктуре с автоматическим масштабированием.

    19.7k
    Живой
    От $2,60 за использование
19. #19M

    micro1

    Поставляет экспертные данные от людей, оценки и среды обучения с подкреплением для лабораторий, обучающих передовые ИИ-модели и агентов.

    15.4k
    Живой
    По запросу
20. #20L

    LiteLLM

    Маршрутизирует запросы между 140+ провайдерами LLM и 1800+ моделями через единый API-шлюз с оптимизацией затрат и контролем доступа.

    15.2k
    Живой
    Open source
    2023
21. #21L

    Lightning AI

    Облачная платформа от команды PyTorch Lightning для разработки, обучения и развертывания ИИ-моделей на GPU.

    14.1k
    Живой
    От $10/мес
22. #22B

    Braintrust

    Платформа наблюдаемости, которая отслеживает выполнение агентов, оценивает их результаты и выявляет закономерности в продакшене для повышения качества.

    13.7k
    Живой
    От $249/мес
    2022
23. #23L

    Liquid AI

    Распространяет небольшие базовые модели, оптимизированные для работы на устройствах без отправки данных на серверы.

    11.3k
    Живой
    От $0,02 за использование
    2023
24. #24G

    Galileo

    Собирает эталонные данные, создаёт и автоматически настраивает оценки и превращает их в защитные механизмы для производственных AI-агентов и RAG-систем.

    9.8k
    Живой
25. #25F

    Fireworks AI

    Хостит открытые языковые модели и модели изображений для быстрого инференса через API, с дообучением и выделенными GPU-развёртываниями.

    8.7k
    Живой
    От $0,01 за использование
26. #26L

    LangfuseMCP · открыт

    Трассирует, оценивает и отслеживает приложения на основе языковых моделей в продакшене с помощью наблюдаемости и управления промптами.

    7.5k
    Живой
    От $29/мес
27. #27U

    Uniphore

    Корпоративная платформа: готовит бизнес-данные, дообучает отраслевые языковые модели и запускает агентов, выполняющих процессы в операциях и обслуживании клиентов.

    6.8k
    Живой
    2008
28. #28H

    HoneycombMCP · нужен вход

    Хранит и запрашивает распределенные трассировки, логи и метрики в реальном времени для отладки сервисов в продакшене, включая вызовы LLM и агентов.

    6.5k
    Живой
    От $150/мес
    2016
29. #29B

    Barndoor AI

    Пропускает запросы к AI-моделям и агентам через контроль доступа, защиту от утечек данных и журнал аудита, прежде чем они дойдут до модели.

    6.5k
    Живой
    По запросу
30. #30E

    EdgeChatMCP · открыт

    Запускает одну языковую модель на вашем Mac для офлайн-чата, слайд-презентаций, медицинских и юридических справок и веб-поиска с разрешения пользователя.

    6.1k
    Живой
31. #31B

    Baseten

    Развертывает и обслуживает AI модели в production с оптимизированным inference на облачной инфраструктуре.

    5.9k
    Живой
    Есть бесплатный тариф
    2019
32. #32P

    Portkey

    Направляет запросы к 1600 языковым моделям через единый API с наблюдаемостью, защитными ограничениями и управлением промптами.

    5.9k
    Живой
    От $49/мес
33. #33O

    OpenLayer AgentsMCP · нужен вход

    Тестирует и мониторит ML- и LLM-системы: настраиваемые проверки до релиза, трассировка, контроль затрат и политик в продакшене.

    4.7k
    Живой
    Есть бесплатный тариф
    2021
34. #34S

    Supermemory MCPMCP · нужен вход

    Хранит и извлекает долговременную память для AI-агентов через API: индексирует диалоги и файлы и подставляет нужный контекст в промпты.

    4.6k
    Живой
    От $19/мес
35. #35M

    Maxim AI

    Симулирует, оценивает и мониторит AI-агентов и LLM-приложения: тестовые наборы, автоматические и ручные оценщики, трассировка в продакшене и открытый шлюз.

    4.2k
    Живой
    Есть бесплатный тариф
36. #36H

    Humanloop

    Humanloop присоединилась к Anthropic и прекращает работу своей платформы.

    3.6k
    Поддерживается
    Есть бесплатный тариф
37. #37H

    Helicone

    Маршрутизирует, отлаживает и анализирует вызовы LLM API с помощью наблюдаемости и мониторинга.

    2.7k
    Живой
    От $79/мес
38. #38W

    WhatLLM.org

    Ранжирует и сравнивает языковые модели по качеству, цене и скорости у разных провайдеров.

    2.5k
    Живой
    Бесплатно
39. #39P

    Patronus

    Генерирует симулированные цифровые среды и бенчмарки для обучения и оценки ИИ-агентов.

    1.7k
    Живой
    По запросу
40. #40A

    Agent Forge

    Предоставляет децентрализованную инфраструктуру GPU-вычислений и координирует автономные AI-агенты в сети.

    1.1k
    Живой
    От $20/мес
41. #41L

    LLM Gateway ChatMCP · нужен вход

    Направляет запросы к 40 провайдерам LLM через единый API с учетом расходов и автоматическим переключением на резервный вариант при сбое.

    989
    Живой
    Есть бесплатный тариф
42. #42A

    Aleph Alpha

    Разрабатывает специализированные суверенные большие языковые модели для критичных бизнес-приложений с услугами кастомизации и оптимизации.

    820
    Живой
    2019
43. #43O

    OmniRoute

    Направляет запросы к 352 провайдерам моделей через один эндпоинт, совместимый с OpenAI, и автоматически переключается на другой провайдер, когда тот недоступен или исчерпал квоту.

    641
    Живой
44. #44A

    All Innovativ

    Создает веб-инструменты, QR-коды, размещенные страницы и запускает приложения на основе языковых моделей в браузере.

    559
    Живой
    От $9,99/мес
    2023
45. #45L

    LangWatch

    Тестирует и оценивает ИИ-агентов с помощью симуляции, трассировки и скоринга до развёртывания в продакшене.

    452
    Живой
    От ≈ $32/польз./мес
46. #46C

    Cyfuture AI

    Предоставляет GPU-инфраструктуру, инференс моделей, fine-tuning и AI-приложения, включая чатботы, голосовых агентов и RAG-системы.

    397
    Живой
    От $0,60 за использование
    2001
47. #47F

    FastRouter.ai

    Маршрутизирует запросы через 200+ LLM с помощью единого OpenAI-совместимого API с интеллектуальным переключением при сбое и оптимизацией затрат.

    319
    Живой
    От $199/мес
48. #48O

    OminiGate

    Маршрутизирует запросы к текстовым, графическим и видеомоделям от нескольких провайдеров через единую конечную точку API.

    298
    Живой
    От $0,01 за использование
    2025