由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名

model-router

话题找到数量

maximhq/bifrost

最快的LLM网关,性能超越LiteLLM达50倍,具备自适应负载均衡器、集群模式、防护机制,支持1000多种模型,在5k RPS下延迟低于100微秒

6.7k
935
666
+37
排名 #5
7月23日
查看详情

workweave/router

面向智能体系统的模型路由器。在50毫秒内将每个提示路由至正确模型,仅需更改端点即可降低40-70%成本。

752
32
198
+225
排名 #15
7月5日
查看详情
助手