torch

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

纳米级vLLM推理引擎

YOLOv7论文实现：可训练免费赠品集为实时目标检测器设立新标杆

Open3D：面向三维数据处理的现代算法库

本仓库包含使用HuggingFace Transformers库构建的演示案例

说话人日志神经构建模块：语音活动检测、说话人变更检测、重叠语音检测、说话人嵌入

通过最快的KV缓存层为您的LLM加速

🦙 LaMa图像修复：基于傅里叶卷积的鲁棒大掩码修复方案，WACV 2022

一套关于前沿计算机视觉模型与技术的教程合集，涵盖从ResNet等基础架构到YOLO11、RT-DETR、SAM 2、Florence-2、PaliGemma 2和Qwen2.5VL等尖端模型的全方位探索。

开源 SenseVoiceSmall 模型，适用于普通话、粤语、英语、日语和韩语 ASR、语言 ID、情绪识别和音频事件检测。

麻省理工学院6.S191课程实验材料：深度学习导论

SANA：基于线性扩散 Transformer 的高效高分辨率图像合成

医疗影像AI工具包

SD.Next：用于 AI 生成图像和视频创建、字幕和处理的一体化 WebUI

从一个 YAML 微调 LLM。层流在 4 GB 笔记本电脑 GPU 上训练 8B 模型。

FlashInfer：大语言模型服务的核心计算库

股票AI操盘手：从学习、模拟到实盘，一站式平台。包含股票知识、策略实例、大模型、因子挖掘、传统策略、机器学习、深度学习、强化学习、图网络、高频交易、C++部署和聚宽实例代码等，可以方便学习、模拟及实盘交易

Silero模型：提供预训练语音转文本、文本转语音和文本增强模型，极致简化实现

面向 Kubernetes 可扩展多框架部署的标准化分布式生成式与预测式 AI 推理平台

使用PyTorch和Scikit-Learn进行机器学习的代码仓库

一个面向全模态模型的高效推理框架。

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

适用于NVIDIA Jetson和JetPack-L4T的机器学习容器

机器学习基础：线性代数、微积分、统计学与计算机科学