由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

blackwell

话题找到数量

vllm-project/vllm

Python

面向大语言模型的高吞吐量与内存优化型推理服务引擎

amd blackwell cuda
vllm-project
vllm-project 开发者
86k
19k
1.1k
+104
排名 #12
7月15日
查看详情

sgl-project/sglang

Python

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

attention blackwell cuda
sgl-project
sgl-project 开发者
30k
7.5k
995
+73
排名 #7
7月29日
查看详情

lightseekorg/tokenspeed

Python

TokenSpeed 是一款光速级的大语言模型推理引擎。

blackwell deepseek glm
lightseekorg
lightseekorg 开发者
1.8k
207
152
+34
排名 #10
7月29日
查看详情
助手