由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名
CUDA
话题找到数量
thu-ml/SageAttention
量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。
3.9k
515
1.2k
+25
NVlabs/cuda-oxide
cuda-oxy 是一个 Rust 到 CUDA 的编译器,可让您使用安全(ish)、惯用的 Rust 编写(SIMT)GPU 内核。它将标准 Rust 代码直接编译为 PTX——没有 DSL,没有外语绑定,只有 Rust。
3.5k
279
309
+223
NVIDIA/raft
RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速,构成了更轻松编写高性能应用程序的构建模块。
1k
244
1k
+2