线性代数子程序的CUDA模板

FlashInfer：大语言模型服务的核心计算库

面向GPU的NumPy与SciPy

面向大语言模型的高吞吐量与内存优化型推理服务引擎

通过最快的KV缓存层为您的LLM加速

基于现代C++的通用任务并行编程系统

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

解谜题，学CUDA。

面向CUDA开发者的示例代码库，展示CUDA工具包功能特性

即时神经图形原语：极速神经辐射场（NeRF）及其他技术

非NVIDIA GPU的CUDA支持

Burn是下一代深度学习框架，在灵活性、效率和可移植性方面毫不妥协。

一个用于加速仿真、数据生成和空间计算的 Python 框架。

一个快速、可扩展、高性能的基于决策树的梯度提升库，用于Python、R、Java、C++的排序、分类、回归及其他机器学习任务，支持CPU和GPU计算。

Open3D：面向三维数据处理的现代算法库

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

开源语音合成工作室

Bend 2：一种通过证明阻止人工智能错误的快速语言。安装：curl -fsSL https://bend-lang.com/install.sh |嘘

动漫风格图像超分辨率技术

VoiceStudio 是 ElevenLabs 的开源、完全本地化替代方案 — 提供 646 种语言的语音克隆、语音设计、视频配音、听写、转录和有声读物创建。