SGLang是面向大语言模型与视觉语言模型的高速推理框架。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

Python科学计算基础工具包

The Memory Layer for AI Agents - Drop-in memory infrastructure for AI agents and apps. Context that persists. Built for production.

Deepagents是基于langchain和langgraph构建的智能体框架。深度智能体配备规划工具、文件系统后端及生成子智能体的能力，使其能够胜任复杂的智能体任务。

开源前沿语音人工智能

Qlib是一款面向AI的量化投资平台，其目标是从创意探索到生产部署的全流程，通过人工智能技术赋能量化研究。该平台支持多种机器学习建模范式，包括监督学习、市场动态建模和强化学习，并现已集成https://github.com/microsoft/RD-Agent以实现研发流程的自动化。

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

NotebookLM/Perplexity开源替代方案，支持连接搜索引擎、Slack、Linear、Jira、ClickUp、Confluence、Notion、YouTube、GitHub、Discord等外部资源。加入Discord社区：https://discord.gg/ejRNvftDp9

一个全面的智能体技能库，涵盖上下文工程、多智能体架构及生产级智能体系统，适用于需要高效上下文管理的智能体系统构建、优化与调试场景。

Kronos：金融市场语言基础模型

构建、运行和管理代理平台。

VoxCPM：面向上下文感知语音生成与逼真音色克隆的无分词器文本转语音系统

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

大语言模型评估框架

面向大语言模型、智能体与多智能体系统的开源记忆引擎

我们为您打造可复用的计算机视觉工具。💜

支持GPU强力加速的Python张量与动态神经网络库

Streamlit——快速构建和共享数据应用的开发框架。