由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名

tensorrt

话题找到数量

NVIDIA/TensorRT

C++

NVIDIA® TensorRT™是用于NVIDIA GPU高性能深度学习推理的SDK，本仓库包含其开源组件

deep-learning gpu-acceleration inference
NVIDIA
NVIDIA 开发者
13k
2.4k
574
+2
排名 #20
6月17日
查看详情

ai-dynamo/dynamo

Rust

数据中心级分布式推理服务框架

diffusion disaggregated-serving kubernetes
ai-dynamo
ai-dynamo 开发者
7.7k
1.4k
794
+74
排名 #17
8月2日
查看详情

NVIDIA/GenerativeAIExamples

Jupyter Notebook

面向加速基础设施与微服务架构优化的生成式AI参考工作流

gpu-acceleration large-language-models llm
NVIDIA
NVIDIA 开发者
4k
1.1k
685
+6
排名 #17
5月13日
查看详情

NVIDIA/DeepStream

C++

NVIDIA DeepStream Monorepo：DeepStream SDK及参考应用，用于构建基于GStreamer、TensorRT和视觉AI模型的GPU加速实时视频与多传感器分析管道，支持边缘、本地及云端部署。

computer-vision cuda deepstream-sdk
NVIDIA
NVIDIA 开发者
96
19
165
+17
排名 #15
7月19日
查看详情
助手