chatgpt API 速度问题

2023-04-07 11:07:31 +08:00
 calano

在站里搜了下大家的讨论都说挺快的,但是为什么我调用的时候就非常慢,通常要将近 20 秒

开始以为是需要 stream 流,现在采用了只快了那么一点,总体依然很慢

自己的服务器中转或者使用公共的中转代理都这个速度,想问问大家还有可能在哪里有问题?

难道是现在免费账号送的额度限速了?

4673 次点击
所在节点    OpenAI
15 条回复
xenme
2023-04-07 11:08:43 +08:00
大概率代码问题,之前用了一个 bot ,也是很慢,后来更新了一次后就飞快了。
qiayue
2023-04-07 11:20:00 +08:00
只要开了 stream ,那么基本上第一个字,可以在一两秒内返回。
可以试试我开源的这个 php 版本 https://github.com/qiayue/php-openai-gpt-stream-chat-api-webui
可以看看下面测一个提问时间日志,第一条数据,会在后端接收到请求后立即返回,第二条数据来自于接口返回第一个字时。两个时间相差 1.5 秒左右。也就是提问后,1.5 秒,前端就可以开始显示第一个字了。
popok
2023-04-07 12:41:51 +08:00
一开始我也觉得好慢,直到我的免费体验额度到期,然后自己充值了一些 api 金额,那个速度就起飞了。

所以我感觉:免费的就是给你限速的
calano
2023-04-07 14:44:16 +08:00
@xenme 换了一套代码感觉快了一些,但是还是比较慢,可能确实得加钱吧
calano
2023-04-07 14:45:06 +08:00
@popok 我也感觉是,用了几种方法都不太满意,先等额度到期吧
calano
2023-04-07 18:34:41 +08:00
@qiayue 你的 key 是付费版的吗,我在想是不是跟这个有关,我的还没到期,是免费额度
winterx
2023-04-08 00:54:18 +08:00
@popok 请问你是怎么充值的
popok
2023-04-08 01:18:32 +08:00
@winterx depay 虚拟卡,开 plus 和绑定 api 扣费账户都没问题。期间遇到一次拒绝您的信用卡,换了一个美国 ip 就好了。个人认为,只要 ip 够纯净,就能成功。
Alexo00000
2023-04-10 01:55:01 +08:00
之前 API 还是很快的 基本两三秒响应,这几天开始 API 访问慢的要死,基本都要十几二十秒,网页版倒是很快
想尝试绑定 Depay 卡,一直提示卡片被拒绝,换了好几个不同国家的 IP 都不行
不知道是卡的问题还是 IP 问题,之前这张卡和 IP 购买网页 plus 都没问题
Alexo00000
2023-04-10 02:36:21 +08:00
更新:刚刚用阿里云美区 ECS 起了个 Windows 系统,直接远程桌面用浏览器完成了绑卡,看来还是 IP 问题
绑完卡马上测试 API 调用,响应速度立马快到飞起
同一个 API KEY ,绑卡前响应 20 秒起,绑卡后立马 3 秒内响应,差异太明显了
Alexo00000
2023-04-10 02:42:01 +08:00
绑卡后,不光是 API 初始响应速度提升,stream 的返回速度也明显加快
这么区别对待,OpenAI 吃相太难看
calano
2023-04-10 10:20:55 +08:00
@Alexo00000 确实现在太慢了
BeginMan
2023-04-12 13:00:16 +08:00
确实比较慢,就最近两天发现很慢,之前都很快。
xiangxihenli
2023-04-12 21:33:52 +08:00
现在太慢了,调接口,先等 20 秒,20 秒之后才正常输出....太狗了
seelight
2023-04-13 01:07:05 +08:00
换了个号绑卡试了下, 立刻飞快了, 不用怀疑, 就是限制了免费试用的速度, 和时间地域无关, vercel 的服务可靠性还是值得信任的.

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/930500

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX