[ai-gateway] 中转站程序

4 月 12 日
 kekxv

分享个自己造的轮子——一个轻量级的 AI 网关(中转)程序。

项目地址: https://github.com/kekxv/ai-gateway

# 起因与折腾史

最开始我用的是 open-webui,体验挺不错(后来忘了因为啥没继续用了)。为了方便集中管理手头一堆乱七八糟的 API Key ,就萌生了自己写个网关的念头。

第一版是用 Next.js 写的(当然,主力开发是 AI )。但在部署时总觉得不够优雅:Next.js 打包出来的 Docker 镜像体积实在太大,还得把庞大的 node_modules 塞进去,总感觉哪里不得劲。(当然,可能是我自己打包优化的姿势不对)。

后来嫌麻烦,干脆去跑了鼎鼎大名的 new-api。好家伙,一启动满屏的功能模块,很多我都用不上,一时半会儿还不知道怎么关掉。感觉过于重度,不太符合我的极简需求。

俺寻思,既然嫌 Node 臃肿,不如干脆换 Go 语言重写一把。反正有 AI 当结对编程助手 ,正好手里有个 40 块钱买的编程辅助订阅,不用白不用

# 核心需求

既然是自己用,就抛弃那些花里胡哨的,只盯准几个核心痛点:

# 总结

于是就有了现在这个中转程序,主打的就是一个轻量、干净、够用

题外话:这项目快写完的时候,总觉得差一口气,我又犯懒去试了一次 new-api。结果再次确认了它确实不适合我,索性下定决心把自己的 ai-gateway 好好打磨完善,毕竟自己用得舒服才是最重要的。欢迎大家试用/提 PR !

910 次点击
所在节点    推广
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1205332

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX