由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名
NVIDIA/Model-Optimizer
项目介绍
一个集成了量化、剪枝、蒸馏、推测解码等前沿模型优化技术的统一库。它压缩深度学习模型，以适配TensorRT-LLM、TensorRT、vLLM等下游部署框架，从而优化推理速度。
A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
智能解读
智能标签
使用场景
项目健康度
距上次更新 7 天
平台 Star TOP 9% · Forks 720
本周 +702 ⭐ · 本月 +1,495 ⭐
58 位贡献者 · 0 条平台评论
缺少 3 项内容
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
public-apis/public-apis
免费API资源汇总列表
EbookFoundation/free-programming-books
📚 免费提供的编程书籍
vinta/awesome-python
回答“我想用 Python 做 X，我应该使用哪个工具？”的最终列表。
practical-tutorials/project-based-learning
基于项目的教程精选列表
NousResearch/hermes-agent
与你共同成长的智能体
TheAlgorithms/Python
所有算法均使用Python实现
加载评论中...