由于 trendforge.devlive.top 访问受限，请切换到 trendforge.devlive.org 域名
项目竞品项目
mistralai/mistral-inference
Mistral模型官方推理库
liguodongiot/llm-action
本项目旨在分享大模型相关技术原理及实战经验（大模型工程化、大模型应用落地）。
Lightning-AI/litgpt
20多个高性能大语言模型，附有预训练、微调和规模化部署的方案
ai-dynamo/dynamo
数据中心级分布式推理服务框架
flashinfer-ai/flashinfer
FlashInfer：大语言模型服务的核心计算库
onyx-dot-app/onyx
团队智能聊天 - 想象一下ChatGPT能够访问你团队的独特知识。
katanemo/plano
智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。
google/adk-python
开源代码优先的Python工具包，用于灵活可控地构建、评估和部署复杂AI智能体
openvinotoolkit/openvino
OpenVINO™是用于优化和部署AI推理的开源工具套件
gitleaks/gitleaks
使用Gitleaks 🔑 发现密钥 （注：根据技术文档惯例，"secrets"在此语境中指代密钥、凭证等敏感信息，采用"密钥"译法符合行业标准；保留工具名称"Gitleaks"不译；添加"使用"二字使中文表达更完整自然；表情符号位置根据中文阅读习惯调整）
AtomicBot-ai/Atomic-Chat
Local AI app and inference engine for agents. Run open-weight LLMs locally — private, 100% offline on your computer. Join our Discord: https://discord.com/invite/8wGSsvmg4V
相关项目推荐
tensorflow/tensorflow
面向所有人的开源机器学习框架
ggml-org/llama.cpp
使用 C/C++ 实现的大语言模型推理框架
react/react-native
一个使用React构建原生应用程序的框架
facebook/react-native
一个使用React构建原生应用程序的框架
electron/electron
使用 JavaScript、HTML 和 CSS 构建跨平台桌面应用程序
godotengine/godot
Godot引擎——跨平台2D与3D游戏引擎