llm-observability

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

通过全面的追踪、自动化评估和生产就绪的仪表盘，调试、评估并监控您的LLM应用、RAG系统和智能体工作流。

基于开源TypeScript AI智能体框架构建的AI智能体工程平台

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

OpenClaw智能大语言模型路由系统，可降低高达70%的成本

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

用于评估、观察和改进 LLM 和 AI 代理应用程序的开源端到端平台。追踪·评估·模拟·数据集·网关·护栏。可自行托管。阿帕奇2.0。