llm-gateway

Never stop coding. Free MIT AI gateway: one endpoint, 375 providers (150+ free), 1,400+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 900+ contributors

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

🦍 云原生API网关与AI网关。

适用于Claude Code、Codex、Cursor的通用AI代理 | 支持OpenAI、Claude、Gemini、Copilot

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

用于多通道、多凭证设置的自托管 AI 网关 — API 密钥和订阅帐户、调度、故障转移、请求日志和使用情况。 自托管AI网关：多渠道多外汇统一接入器，含外汇与订阅账号、调度内容错、日志与用量。

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

您自己运行的开源、兼容 OpenAI 的 LLM 网关。适用于 40 多家提供商的一个端点，具有虚拟密钥、预算和使用情况跟踪功能。