🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

可视化构建AI智能体

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。

开放可组合的可观测性与数据可视化平台。支持可视化来自Prometheus、Loki、Elasticsearch、InfluxDB、Postgres等多数据源的指标、日志与追踪数据。

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.

一款提示词优化工具，致力于协助编写高质量提示词

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

LightRAG：简单快速的检索增强生成框架

⌥ 终端AI编程代理——基于哈希锚定的编辑、优化的工具集、LSP、Python、浏览器、子代理等

Composio提供1000多种工具包、工具搜索、上下文管理、身份验证以及沙盒化工作台，助您构建能将意图转化为行动的AI智能体。

FastGPT是基于大语言模型构建的知识平台，提供数据处理、RAG检索和可视化AI工作流编排等开箱即用的完整功能，让您无需繁琐设置即可轻松开发和部署复杂问答系统。

项目竞品项目否描述

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

《深入理解AI Agent：设计原理与工程实践》（李博杰着）开源主仓库：全书正文、编译版PDF与按章安装代码

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

O'Reilly书籍《动手玩转大语言模型》官方代码库

🙌 OpenHands：少编码，多创造

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨