🔥 GPT-Load 2.0 发布!轻量易用的自托管 AI 网关

9 月 2 日
 tbphp

GitHub:https://github.com/tbphp/gpt-load
官网:https://www.gpt-load.com

2.0 RC 版本已发布,这次是完整重写,不是 1.x 的小升级重构。

GPT-Load 2.0 的初衷很简单:开发者手里的 AI 资源越来越杂,各种 API Key 还有订阅,再各个客户端里反复配、切换账号太繁琐。 所以 2.0 的使用方式尽量做得简单:

导入资源 → 生成 AccessKey → 直接调用。

之后,GPT-Load 会自动帮你处理凭据轮换、权重调度、失败重试、冷却、黑名单、会话亲和和健康判定。

和 CPA 、New API 、sub2api 的区别?

这些项目做得很好、功能已经很成熟,我一直在使用。
CPA 适合直接把 Codex 、Claude 等订阅账号代理成 API 。
New API 和 sub2-api 更偏用户体系、额度、计费、充值和 API 分发。

GPT-Load 2.0 的设计语言更偏向于简洁、轻量、易用。
主要面向个人和内部团队,专注把手里的各种上游资源收进同一个资源池,再统一调度、容错和观测。

部署也尽量轻量

多种部署方式,部署后免配置就可使用。
一个 Go 二进制自带管理界面,默认使用 SQLite ,不需要 Redis ,也不用单独部署前端、后端和一堆服务。
并且提供了更多平台的适配:Linux 、Mac 、Win 的原生版本,Win 还有服务化安装程序。

推荐使用 Docker 快速部署:

git clone --depth 1 --branch v2 https://github.com/tbphp/gpt-load.git
cd gpt-load

cp .env.example .env
docker compose up -d

# 查看首次部署生成的管理密钥
docker compose exec gpt-load sh -c 'cat /app/data/auth.key'

打开 http://127.0.0.1:3001,使用上面输出的管理密钥登录。

2.0 功能介绍


[!WARNING] 提醒老用户:2.x 与 1.x 数据不兼容,请独立部署并验证后再切换。

[!IMPORTANT] 遇到问题欢迎提 Issue ,觉得有用也欢迎点个 Star:https://github.com/tbphp/gpt-load。


最后,放一点预览截图:

2974 次点击
所在节点    程序员
23 条回复
justwkj07
9 月 2 日
厉害了,v1 版本就一直部署使用. 支持一下
mhqschen
9 月 2 日
“和 CPA 、New API 、sub2api 的区别”那段,我竟然一点没看明白……
liubaicai
9 月 2 日
@mhqschen 其实就是没啥区别。。用着都差不多,找个顺眼的就行了
deqiying
9 月 2 日
openai 协议支持 websocket 吗?
safilar
9 月 2 日
有没有商业版本。
tinyzilan123
9 月 2 日
@liubaicai 可能就是更轻量吧哈哈哈哈
tbphp
9 月 2 日
@deqiying 目前 rc 版本还没有,有这个计划,之后会加入。
tbphp
9 月 2 日
@safilar 目前只有开源版本,暂无商业版。
nativeBoy
9 月 2 日
好东西,公司电脑是云桌面,用不了 docker ,这个正合我意
tbphp
9 月 2 日
@nativeBoy 是的,有编译好的二进制可以直接使用
0d
9 月 2 日
好东西,但是似乎不能查看订阅使用量情况, 也许是我没找到查看的地方
tbphp
9 月 2 日
@0d 可以查看订阅账号明细。分组页面,进入分组详情,就能看到这个分组所有的账号。
账号卡片默认是没有显示额度,需要手动点击刷新就会更新额度信息。
参考帖子第二张截图
TopMuse
9 月 3 日
订阅转 API 听说露头就秒,很容易被封啊,我公司的号一直不敢尝试,怕真被封了不好交代
tbphp
9 月 3 日
@TopMuse 嗯,这是上游的风控,特别是分发比较容易被探测。
TopMuse
9 月 4 日
@tbphp 个人用,只是想在家也白嫖公司的订阅,单点的情况会不会好些?
tbphp
9 月 4 日
@TopMuse 这也没有办法能保证,个人设备环境、网络 ip 质量等等都会影响。

单从我个人使用来说,chatgpt 的订阅接入个人使用一直没出现过问题,claude code 的不太行,风控要更严格一点。
tbphp
9 月 5 日
这 2 天又更新了好几个小版本,修复了这段时间用户使用的一些反馈问题。
tbphp
9 月 9 日
这一周还是更新的很频繁的,解决了很多佬友反馈的问题,以及新增了不少功能还有各种优化。

### [GPT-Load 2.0]( https://github.com/tbphp/gpt-load) 近一周更新(截止 v2.0.0-rc.10 )

- **参数覆盖**:按协议、模型匹配规则,统一修改或删除请求参数。
- **调度升级**:全局加权轮询、连续分配限制,支持原生优先或混合权重策略。
- **价格倍率**:分组和 AccessKey 可分别设置费用倍率。
- **密钥与用量**:支持复制配置发放新密钥、按密钥查看用量及日志、自定义统计时间。
- **批量管理**:单次最多导入 **5,000 条 API Key**,支持全量下载、启停和恢复。
- **渠道扩展**:新增 **Sub2API** 专用上游渠道。
- **跨域配置**:支持后台配置 **CORS** 和自定义响应头。
- **管理优化**:重构设置页,补齐订阅账号权重、分组快速启停及日志路由展示。
- 其他若干修复和优化。
tbphp
9 月 11 日
@deqiying 最新版已经支持了,可以体验一下。
deqiying
9 月 11 日
@tbphp #19 好的,感谢

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1238811

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX