面向大语言模型的高吞吐量与内存优化型推理服务引擎

多语言大规模语音生成模型，提供推理、训练与部署全栈能力

开源 SenseVoiceSmall 模型，适用于普通话、粤语、英语、日语和韩语 ASR、语言 ID、情绪识别和音频事件检测。

通过最快的KV缓存层为您的LLM加速

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

纳米级vLLM推理引擎

专为从事大语言模型、多模态和语音人工智能（自动语音识别与文本转语音）的研究人员和开发者打造的可扩展生成式AI框架

🤗 最大的 AI 模型即用数据集中心，提供快速、易于使用且高效的数据操作工具

YuE2：具有象征性规划、零镜头翻唱和代理音乐编辑的前沿音乐生成。

基于PaddlePaddle的超棒多语言OCR与文档解析工具包（实用超轻量OCR系统，支持80+语言识别，提供数据标注与合成工具，支持服务器/移动端/嵌入式/IoT设备全平台训练与部署）

🔥 MaxKB is an open-source platform for building enterprise-grade agents. 强大易用的开源企业级智能体平台。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.

Graph Neural Network Library for PyTorch

一个可扩展的生成式 AI 框架，专为从事大语言模型、多模态及语音 AI（自动语音识别与文本转语音）的研究人员和开发者构建。

用不超过10分钟的语音数据轻松训练优质语音克隆模型！

SANA：基于线性扩散 Transformer 的高效高分辨率图像合成

规模最大的PyTorch图像编码器/骨干网络集合。包含训练、评估、推理、导出脚本与预训练权重——支持ResNet、ResNeXT、EfficientNet、NFNet、Vision Transformer（ViT）、MobileNetV4、MobileNet-V3和V2、RegNet、DPN、CSPNet、Swin Transformer、MaxViT、CoAtNet、ConvNeXt等模型

SD.Next：用于 AI 生成图像和视频创建、字幕和处理的一体化 WebUI

Ultralytics YOLOv5 在 PyTorch > ONNX > CoreML > TFLite 中的实现