由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

tokenspeed

话题找到数量

kvcache-ai/Mooncake

C++

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

disaggregation inference kvcache
kvcache-ai
kvcache-ai 开发者
6.6k
1.2k
1.3k
+10
排名 #15
9月18日
查看详情

lightseekorg/tokenspeed

Python

TokenSpeed 是一款光速级的大语言模型推理引擎。

blackwell deepseek glm
lightseekorg
lightseekorg 开发者
1.8k
207
634
+34
排名 #10
7月29日
查看详情
助手