🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

🦜🔗 构建情境感知推理应用程序 🦜🔗

The Memory Layer for AI Agents - Drop-in memory infrastructure for AI agents and apps. Context that persists. Built for production.

LlamaIndex 是领先的文档智能体与 OCR 平台。

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

《深入理解AI Agent：设计原理与工程实践》（李博杰着）开源主仓库：全书正文、编译版PDF与按章安装代码

构建、运行和管理代理平台。

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.

Hindsight：具备学习能力的智能体记忆系统

LightRAG：简单快速的检索增强生成框架

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

Langflow：用于构建和部署AI驱动智能体与工作流的强大工具

使用单张4GB GPU实现AirLLM 70B推理

🌟 多智能体框架：首家AI软件公司，迈向自然语言编程

VoxCPM：面向上下文感知语音生成与逼真音色克隆的无分词器文本转语音系统

用于编排角色扮演和自主AI智能体的框架。通过促进协作智能，CrewAI使智能体能够无缝协作，共同处理复杂任务。

用于将文件和办公文档转换为Markdown的Python工具。