由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名

llm-cost

话题找到数量

maximhq/bifrost

最快的LLM网关,性能超越LiteLLM达50倍,具备自适应负载均衡器、集群模式、防护机制,支持1000多种模型,在5k RPS下延迟低于100微秒

6.7k
935
663
+37
排名 #5
7月23日
查看详情

Helicone/helicone

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

5.5k
543
424
+7
排名 #7
4月21日
查看详情
助手