cuda

cuVS - GPU向量搜索与聚类计算库

暂无项目描述

UniLab：一种超越GPU主导范式的机器人强化学习异构架构

《大模型算法实战教程》面向大模型入门到进阶的算法实战教程，覆盖原理讲解、答案解析、测试用例与CUDA/Triton实战。LLM algorithm practice lab with theory, solutions, and test cases.

跨供应商 3D 高斯泼溅训练器 - 泼溅到网格、Vulkan 或 CUDA 的视频。

SplatAD：面向自动驾驶的实时激光雷达与相机渲染技术，基于3D高斯泼溅

chipStar 是一款通过 OpenCL 或 Level Zero API 在 SPIR-V 上编译和运行 HIP/CUDA 的工具。

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。

Parrot 是一个基于 NVIDIA CCCL 库（Thrust/CUB）构建的数组融合 GPU 库。

零知识模板库

面向Julia CPU与GPU后端的跨架构并行算法。

CUDA编程练习项目——动手实践CUDA内核与性能优化，涵盖GEMM、FlashAttention、Tensor Cores、CUTLASS、量化、KV缓存、NCCL及性能分析。

服务器端 CKKS GPU 库可与 OpenFHE 完全互操作。

NVIDIA DeepStream Monorepo：DeepStream SDK及参考应用，用于构建基于GStreamer、TensorRT和视觉AI模型的GPU加速实时视频与多传感器分析管道，支持边缘、本地及云端部署。

Julia中的CUDA瓦片编程

面向大语言模型的高吞吐量与内存优化型推理服务引擎

面向集体多GPU通信的优化原语

用于高性能 AI 模型服务（vLLM、SGLang）和按需可通过 SSH 访问的 GPU 实例的 GPU 集群管理器。