由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名
项目介绍
一个统一的AI模型中心,用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥
智能解读
一个统一的下一代AI模型网关与资产管理平台,由Go语言构建。核心价值在于将各种大语言模型(如DeepSeek、Claude、Gemini等)的接口统一转换为OpenAI、Claude或Gemini兼容格式,实现跨模型的标准化调用。作为集中式管理网关,支持组织级身份认证、多模型管理、用量分析、成本核算与私有化部署。通过Docker Compose或命令即可快速部署,部署后访问本地端口即可使用。适用于企业或个人需要统一管理多个AI模型、简化API调用流程、进行权限控制与费用统计的场景。注意,使用前需合法获取上游API密钥并遵守相关服务条款与法规。
使用场景
New API最适合需要统一管理、调度和计费多个AI模型(OpenAI、Claude、Gemini等)的企业或个人,尤其适用于多部门协作、成本核算和私有化部署场景
统一API网关
团队同时使用OpenAI、Claude、DeepSeek等多个大模型API,接口格式不统一,维护成本高
通过New API将所有模型转换为OpenAI兼容格式,只需对接一个网关即可调用所有模型
前端应用只需配置一个OpenAI SDK,后端通过New API路由到不同的模型提供商,无需修改应用代码
多模型成本核算
企业需要统计各部门或项目使用不同AI模型的用量和费用,但缺乏统一的计费系统
利用内置的组织级按请求、按用量和缓存命中计费功能,精确核算每个部门或用户的AI使用成本
为不同项目分配独立Token,在后台查看每个项目的API调用次数、Token消耗和对应费用,支持Stripe或Epay充值
权限与安全管控
公司内部多人使用AI API,需要控制不同角色的访问权限和模型使用范围,防止滥用
通过Token分组、模型限制和用户管理功能,精细控制每个用户或团队可调用的模型和配额
开发团队只能调用GPT-4和Claude,测试团队只能使用DeepSeek,每个Token设置每日调用上限
私有化模型部署
企业需要在内网部署AI网关,统一管理自建模型和第三方API,同时满足合规和数据安全要求
通过Docker Compose一键私有化部署,支持自建模型和第三方API的聚合,所有数据留在本地
在内部服务器部署New API,将公司自训练的LLM和购买的OpenAI API统一接入,员工通过内网访问,无需暴露公网
项目健康度
距上次更新 11 天
平台 Star TOP 100% · Forks 0
本周 +862 ⭐ · 本月 +3,448 ⭐
246 位贡献者 · 0 条平台评论
文档资料完整
1 项改进建议
- 人气:项目在平台内知名度较低,持续更新有助于提升曝光
项目信息
赞赏支持
如果本站对你有帮助,欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
avelino/awesome-go
一份精选的Go语言优秀框架、库及软件列表
ollama/ollama
开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。
golang/go
Go 编程语言
kubernetes/kubernetes
生产级容器调度与管理平台
microsoft/TypeScript
TypeScript是JavaScript的超集,可编译为纯净的JavaScript输出。
fatedier/frp
一款快速反向代理,可帮助您将NAT或防火墙后的本地服务器暴露至互联网。
加载评论中...