#cuda 每日趋势报告

VoiceStudio 是 ElevenLabs 的开源、完全本地化替代方案 — 提供 646 种语言的语音克隆、语音设计、视频配音、听写、转录和有声读物创建。

VoiceStudio 是 ElevenLabs 的开源、完全本地化替代方案 — 提供 646 种语言的语音克隆、语音设计、视频配音、听写、转录和有声读物创建。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

SGLang-Omni 为 TTS、ASR、语音和全向模型提供高性能服务。

FlashInfer：大语言模型服务的核心计算库

《大模型算法实战教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与CUDA/Triton实战。LLM algorithm practice lab with theory, solutions, and test cases.

GPU加速决策优化

即时神经图形原语：极速神经辐射场（NeRF）及其他技术

cuVS - 一个用于GPU上的向量搜索与聚类的库

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。