由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名
项目竞品项目
cupy/cupy
面向GPU的NumPy与SciPy
vllm-project/vllm
面向大语言模型的高吞吐量与内存优化型推理服务引擎
taskflow/taskflow
基于现代C++的通用任务并行编程系统
sgl-project/sglang
SGLang是面向大语言模型与视觉语言模型的高速推理框架。
srush/GPU-Puzzles
解谜题,学CUDA。
NVlabs/instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
vosen/ZLUDA
非NVIDIA GPU的CUDA支持
tracel-ai/burn
Burn是下一代深度学习框架,在灵活性、效率和可移植性方面毫不妥协。
isl-org/Open3D
Open3D:面向三维数据处理的现代算法库
NVIDIA/TensorRT-LLM
TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.
jamiepine/voicebox
开源语音合成工作室
nagadomi/waifu2x
动漫风格图像超分辨率技术
debpalash/VoiceStudio
VoiceStudio 是 ElevenLabs 的开源、完全本地化替代方案 — 提供 646 种语言的语音克隆、语音设计、视频配音、听写、转录和有声读物创建。
NVIDIA/cccl
CUDA核心计算库
hashcat/hashcat
全球最快最先进的密码恢复工具
NVIDIA/nvbench
CUDA内核基准测试库
psmarter/CUDA-Practice
CUDA编程练习项目——动手实践CUDA内核与性能优化,涵盖GEMM、FlashAttention、Tensor Cores、CUTLASS、量化、KV缓存、NCCL及性能分析。
NVIDIA/cuda-samples
面向CUDA开发者的示例代码库,展示CUDA工具包功能特性
相关项目推荐
karpathy/llm.c
基于纯C/CUDA的简易大语言模型训练
NVlabs/instant-ngp
即时神经图形原语:极速神经辐射场(NeRF)及其他技术
HigherOrderCO/HVM2
一个基于Rust的大规模并行、最优函数运行时
deepseek-ai/DeepEP
DeepEP:高效的专家并行通信库
deepseek-ai/DeepGEMM
DeepGEMM:具备细粒度缩放功能的精简高效FP8通用矩阵乘内核
flashinfer-ai/flashinfer
FlashInfer:大语言模型服务的核心计算库