qwen3

面向大语言模型的高吞吐量与内存优化型推理服务引擎

开源语音合成工作室

使用PEFT或全参数方法对500余个大语言模型和200余个多模态大语言模型进行CPT/SFT/DPO/GRPO训练

智能体强化训练器：使用GRPO为现实任务训练多步智能体。为智能体提供在职培训。支持Qwen2.5、Qwen3、Llama等模型的强化学习

只需几行代码，即可在骁龙设备的NPU、GPU和CPU上本地运行前沿LLM和VLM模型

运行前沿LLM和VLM，支持GPU、NPU和CPU的发布当日模型适配，覆盖PC（Python/C++）、移动端（Android和iOS）及Linux/IoT（Arm64和x86 Docker）的完整运行时环境。支持OpenAI GPT-OSS、IBM Granite-4、Qwen-3-VL、Gemma-3n、Ministral-3等模型。

面向苹果芯片的端侧语音人工智能

ASR/STT字幕生成器。采用Qwen3-ASR、本地LLM、Whisper、TEN-VAD技术，具备针对JAV场景的噪声鲁棒性

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理

Chat2API 通过利用官方网页界面，实现零成本访问领先的AI模型。它支持DeepSeek、GLM、Kimi、MiniMax、Qwen和Z.ai等提供商，并能与openlcaw、Cline和Roo-Code等工具无缝集成。

一个用于GGUF模型的原生.NET LLM推理引擎。TensorSharp提供了控制台应用程序、基于Web的聊天机器人界面，以及兼容Ollama/OpenAI的HTTP API，便于编程访问。它支持Windows/macOS/Linux，并具备完整的GPU能力。

专为大语言模型/视觉语言模型设计的PyTorch分布式原生训练库，开箱即用支持Hugging Face