这是一个创建于 241 天前的主题，其中的信息可能已经有所发展或是发生改变。
其实未来，单个 Azure OpenAI 的接口并发量不够，
是否可以有什么反向代理，类似 Nginx ，
可以后端可以指向多个 Azure OpenAI 的 endpoint ？ 然后对前端供统一的 AK/SK
 |
1
wind1986 241 天前
这请求不是无状态的么, 要么通过代码随机选一个
要么 nginx 配也可以, 直接修改 http 头 |
 |
2
Tink PRO 自建一个呗，几分钟 的事
|
 |
3
ysicing 240 天前
oneapi 不就可以么
|
 |
4
ydirel 240 天前
ohmygpt 了解一下
|
Select Language