由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名
anthropic-api
话题找到数量
ddalcu/mlx-serve
专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。
smg-project/smg
Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.
NightMean/OlliteRT
将您的 Android 手机变成兼容 OpenAI 的 LLM 推理服务器 - 完全本地、私有和开源
