huggingface-transformers

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

UltraRAG v3：一个用于构建复杂创新RAG管道的低代码MCP框架

面向混合模型的智能路由器。