🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

可视化构建AI智能体

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

开放可组合的可观测性与数据可视化平台。支持可视化来自Prometheus、Loki、Elasticsearch、InfluxDB、Postgres等多数据源的指标、日志与追踪数据。

一款提示词优化工具，致力于协助编写高质量提示词

📦 Repomix 是一款强大工具，可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景，例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

LightRAG：简单快速的检索增强生成框架

Composio提供1000多种工具包、工具搜索、上下文管理、身份验证以及沙盒化工作台，助您构建能将意图转化为行动的AI智能体。

FastGPT是基于大语言模型构建的知识平台，提供数据处理、RAG检索和可视化AI工作流编排等开箱即用的完整功能，让您无需繁琐设置即可轻松开发和部署复杂问答系统。

项目竞品项目否描述

TypeScript AI工具包。由Next.js创作者推出的免费开源库，用于构建AI驱动应用与智能体

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

构建并运行您能看见、理解且信任的智能体。

O'Reilly书籍《动手玩转大语言模型》官方代码库

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人