🦜🔗 构建情境感知推理应用程序 🦜🔗

LlamaIndex 是领先的文档智能体与 OCR 平台。

The Memory Layer for AI Agents - Drop-in memory infrastructure for AI agents and apps. Context that persists. Built for production.

面向大语言模型的高吞吐量与内存优化型推理服务引擎

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

一个基于LLM的知识策展系统，用于研究某个主题并生成带有引用的完整报告。

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

《深入理解AI Agent：设计原理与工程实践》（李博杰着）开源主仓库：全书正文、编译版PDF与按章安装代码

Deepagents是基于langchain和langgraph构建的智能体框架。深度智能体配备规划工具、文件系统后端及生成子智能体的能力，使其能够胜任复杂的智能体任务。

OpenAI API 的官方 Python 库

基于模块化图结构的检索增强生成系统

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

您的AI第二大脑。支持自托管。从网络或文档中获取答案。构建自定义智能体、调度自动化任务、进行深度研究。将任何在线或本地大语言模型转化为您的个人自主AI（支持GPT、Claude、Gemini、Llama、Qwen、Mistral）。立即开始——免费使用。

用户友好型AI交互界面（支持Ollama、OpenAI API等）

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

高质量PDF转Markdown和JSON工具。一站式开源数据提取解决方案，实现PDF到Markdown与JSON格式的精准转换。