local

只需几行代码，即可在骁龙设备的NPU、GPU和CPU上本地运行前沿LLM和VLM模型

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

智能会议AI记事本

适用于MacOS、Linux和Windows的官方Anytype客户端

使用本地AI根据图像生成3D模型的桌面应用——完全在您的GPU上运行

自动生成您一天的时间线

从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。

通过公共URL将您的本地Web服务器暴露到互联网。

将您的PC、Mac或Linux设备转变为AI服务器，支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

一个异常检测库，包含最先进的算法以及实验管理、超参数优化和边缘推理等功能。

找到真正能在你的硬件上运行且性能最佳的本地大语言模型。基于真实且考虑时效性的基准进行排名，而非参数数量。一条命令，即刻运行。

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

开源医疗人工智能

Olares：一个开源的私有云平台，助您重掌数据主权。

Apache Maka（孵化）是本地优先的 AI 代理工作区。模型消息、工具调用、工具结果、权限决策和终止事件都记录为仅附加日志。

您的AI编程代理首选网页——基于MCP的本地优先搜索、抓取、爬取与研究。无需API密钥，无需云端，零成本查询。公开测试版。

通过 Text Grab 在 Windows 中快速轻松地使用 OCR。具有可选的后台进程和通知。

MLX-VLM：基于MLX在Mac上进行视觉语言模型推理与微调的工具包

🎵 终极开源Suno替代方案——面向ACE-Step 1.5 AI音乐生成的专业界面。免费、本地、无限制。告别Suno付费！

开源且本地优先的Slack和Notion替代方案，让您完全掌控自己的数据。

更智能、自托管的人工智能助手——多用户、多代理。

Open Science by AIPOCH 是一个开源、本地优先、与模型无关的 AI 研究工作台，适用于 macOS、Windows 和 Linux，具有科学代理、Python/R 笔记本、数据连接器和可重复的出处。