SGLang-Omni 为 TTS、ASR、语音和全向模型提供高性能服务。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

纳米级vLLM推理引擎

SANA：基于线性扩散 Transformer 的高效高分辨率图像合成

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

🚀 AI 短视频引擎 | AI全自动短视频引擎

🚀 AI全自动短视频引擎

全面的开源 3A 游戏生成技能和资产框架。

面向昇腾平台的vLLM社区维护硬件插件

面向加速视频生成的统一推理与训练后处理框架

通过最快的KV缓存层为您的LLM加速

全球首个开源智能体视频制作系统，集成12条流水线、52种工具及500余项智能体技能，可将您的AI编程助手转变为完整的视频制作工作室。

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

即插即用的本地人工智能工作室：未经审查的聊天、图像和视频生成、编码代理。 Runs abliterated LLMs + ComfyUI 100% offline. One installer, no Docker, no cloud.

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

面向 Kubernetes 可扩展多框架部署的标准化分布式生成式与预测式 AI 推理平台

Stable Diffusion网页界面

OpenAI Whisper模型的C/C++移植版本

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。