openai-compatible

端到端语音识别基础工具包与开源SOTA预训练模型，支持语音识别、语音活动检测、文本后处理等功能。

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

代理系统的模型路由器。在 <50 毫秒内将每个提示路由到正确的模型。只需更改端点即可将成本削减 40-70%。

面向智能体系统的模型路由器。在50毫秒内将每个提示路由至正确模型，仅需更改端点即可降低40-70%成本。

一个自托管的CPA/CLIProxyAPI管理面板及可观测性仪表板，用于监控请求、用量、成本、配额、故障和账户健康状态。

将GitHub Copilot转换为兼容OpenAI/Anthropic API的服务器。可与Claude Code配合使用！

MLX 速度提高 3 倍 |酷文3.8 27B | Apple Silicon 上的本机 MTP 推测解码，无需外部起草器。

口袋里的OpenClaw替代方案

具有 SQLite 持久性和内置仪表板的独立 CliProxyAPI 使用情况跟踪器。

用于AI驱动文本转换的Android无障碍服务