deepseek

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

专为多种AI加速器优化的大语言模型高性能推理引擎。

专为大语言模型/视觉语言模型设计的PyTorch分布式原生训练库，开箱即用支持Hugging Face

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

为提升易用性、全面性与效率而设计的模型压缩工具包。

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

Chat2API 通过利用官方网页界面，实现零成本访问领先的AI模型。它支持DeepSeek、GLM、Kimi、MiniMax、Qwen和Z.ai等提供商，并能与openlcaw、Cline和Roo-Code等工具无缝集成。

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。

RikkaHub是一款支持多种LLM提供商的Android应用

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

面向大语言模型的高吞吐量与内存优化型推理服务引擎

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

只需几分钟即可在 AMD Ryzen™ AI NPU 上运行法学硕士。就像 Ollama - 但专为 AMD NPU 构建并深度优化。

用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

本地优先的桌面小部件，用于跟踪超过 32 种 AI 编码工具（包括 Claude Code、Codex、Cursor、OpenCode 和 OpenClaw）的令牌使用情况、成本和限制，并具有多设备同步功能。

基于大语言模型与RAG的智能文本转SQL生成系统