由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

模型部署

话题找到数量

microsoft/BitNet

C++

1位量化大语言模型官方推理框架

microsoft
microsoft 开发者
41k
3.9k
1.7k
+28
排名 #7
11月1日
查看详情

google-ai-edge/LiteRT-LM

C++

LiteRT-LM 是谷歌推出的生产级、高性能、开源推理框架，用于在边缘设备上部署大型语言模型。

edge-ai on-device-ai on-device-llm
google-ai-edge
google-ai-edge 开发者
6.8k
776
1.5k
+11
排名 #10
11月1日
查看详情
助手