上个月开始运营 AI 中转站 鱼鱼连线 https://yylx.io 开始以为应该不算难,因为看到不少十几岁的人在做,结果上来之后就踩了一堆坑,钱也投进去不少,最近算是刚从一堆大坑里爬出来。
上来肯定想直接用,先不早自己的轮子,市面上就是 sub2api 和 newapi 这两家大的,刚开始看的时候觉得都差不多,就选了 sub2api ,结果用起来发现问题一大堆,bug 也有,没设计好的地方也有。(这里不是黑,因为每个人做的时候需求都不一样,肯定有开源作品没考虑到的问题)
后来发现有些问题 newapi 早就有解决方案了,就用 newapi 又搭建了一套,刚开始很爽,但用着用着发现有一些 sub2api 的基础功能 newapi 根本没有。
这两套系统并没有太多感觉谁比谁强的样子,都是各有优势,也各有不足,只能选定一套之后做二次开发。但是这两套系统源码都几十万行了,vibe 起来并不容易,如果只读一部分代码就开始 vibe 很容易出问题,总之开发起来要格外小心。
先是自己注册了几个账号,用的自己名下的纯境外本地银行注册的信用卡,用得特别顺,就琢磨着开始增量了,于是找了以前熟悉的 kyc 老哥帮忙做号,老哥的号做出来之后放进去结果又来新坑了:
那些容易注册的 U 卡啊、虚拟卡啊,基本上都没法支付成功,有的是碰运气成功率比较低,Anthropic 对号段卡得很严格。有的是能支付成功,但是用起来就是没有正规卡那么稳,很容易封号。总结起来就是越容易搞到的虚拟卡搞到中转站封控规则越严格。于是要找真人的正规卡支付,注册账号的成本就一下子上来了。
注:这是 5 月份的经验了,后来越来越严格了更多 U 卡都无法支付了。
稳定性一直是个大问题,每天都在修修补补提升稳定性。不说我这端的,A\ 这个月 SLA 连 99 都没守住,一直在 98-99 之间。
我这端主要涉及的是账号被封之后自动切换账号重试造成的问题,细节不展开了,各种甲叠来叠去。
还有一些基础架构上的问题,比如我全站都是在 Cloudflare 后面的,但是有一些耗时的请求时间要超过 120s 无反馈(比如生成图片)就被 CF 直接砍断了,要延长这个时间就要升级到最贵的 enterprise 套餐,一个月好几千美金起步。直接暴露又不是办法,中间还要暴露一个跳板给直连,同时维护跳板的安全性。
有时候封控规则更新了,号池大批阵亡,但好在还能用,客户自己注册的账号很多直接阵亡了,我们这时候作为备用方案还是比较 OK 的,甚至直接升级为客户的主方案了。
客户每天有不少问题要问,比如:
这些问题最开始我自己用的时候也都遇到过,所以基本上每个客户问我都会好好解释一番,大部分客户都能接受,毕竟刚开始用的时候就是会心存疑虑,行业里也鱼龙混杂,有怀疑都正常,基本上每天有 50% 工作花在和客户聊天上。
网络攻击就不说了,cf 帮我挡下了大部分,继续给赛博菩萨上香。
针对号池的攻击包括:
太多了列不完,现在遇到一个加一道防护,也没有太多别的办法。但是最困难的是因为没有留存原始数据,很多时候只能通过接口报错信息分析,处理起来就会滞后许多。
一时能想起来的就这么多,后面遇到问题再来更新吧,也欢迎客户和同行来交流和合作,网站注册之后右上角有联系方式~
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.