由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名

2026-08-05
🏷️

#inference 每日趋势报告

📅 2026-08-05
📊 4 个项目

🔥 #inference 每日热门项目

ddalcu/mlx-serve

专为Apple Silicon打造的原生LLM推理服务器,兼容OpenAI与Anthropic API,无需Python环境。包含基于MLX Core的macOS应用,支持聊天、智能体模式及工具调用功能。

479
37
294
+29
排名 #1
8月5日
查看详情

katanemo/plano

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面,可卸载底层管道工作,让您专注于智能体核心逻辑开发(支持任意AI框架)。

7k
483
690
+20
排名 #8
8月5日
查看详情

thu-ml/SageAttention

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。

3.6k
455
599
+16
排名 #1
8月5日
查看详情

zml/zml

任意模型·任意硬件·零妥协·基于@ziglang/@openxla/MLIR/@bazelbuild构建

4k
172
444
+4
排名 #11
8月5日
查看详情

📊 数据统计

4 个热门项目
2026-08-05 数据日期

🔥 TrendForge - 追踪开源项目热度,发现技术趋势

助手