关于公司搭建 AI 问答的一些风险

[hui9000]

这是上一个问题，https://www.v2ex.com/t/999563#reply52 关于搭建 AI 问答的 经过几天研究讨论，最终定下我们内部先搭建一个基于 chatGPT3.5-turbo 的问答的应用，先让公司内部习惯使用此工具； 这里有几个问题问一下各位大佬彦祖： 公司背景：处于国内，非互联网公司，传统零售业

1. 肯定需要 vpn ，如果我使用买的 vpn 是否有风险，改应用只限内部使用，也就是公司内网，以后也不会开放外部人员使用；
2. 如果 1 有风险，使用中转 api 是否有稳定可行；
3. 开发聚合的多模型的类似这种 https://anakin.ai 有没有成熟的方案？ 最后：其实我理解上层的想法，就是增加效率，降低成本，都不好过； 将来可能会淘汰一部分运营，设计，做报表的。

[Maco]

公司用 VPN 的话，建议采购中国联通的 SDWAN 方案，合法的； 5M 大概 1400 人民币/月 + 一个境外的服务器即可。

[phytry]

用 azure 吧，需要提交公司资料申请 azure ai 的使用权，账号和信用卡绑定都用公司提供的就好了，自己只是协助公司开通和部署业务

[reeco]

请我当顾问，帮你搭一个完全私有部署的 :-)

[em70]

用 VPN 不是个好方案,应该部署一个海外代理服务器,阿里云有精品网络走国内,可以保证稳定

[reoah2]

建议 azure+langchain

[em70]

@reeco #23 搭一个跑起来很容易,但要精准召回,需要自己做数据对齐,特别在资料有表格和公式情况下,难度不亚于开发一个垂直搜索引擎

[weilongs]

感觉搞这事就是搞事。 惹一身骚。

[Seulgi]

如果用 openai 的 gpt ，发票就开不出来。所以合法合规就是用 azure openai ，至少有国内团队洽谈商务，都是出海正规做法。

[kalman03]

问楼主：你是如何有 openai 的 api 权限的（你搞定绑卡了吗）？如果连 API 权限都没有，你考虑怎么调用没意义吧？

[ShawBen]

Azure+1,不需要 VPN

[Rnreck]

@hui9000 #14 别做吃力不讨好的事情，，

[hui9000]

@cherryas 领导下达的任务，我也很难办，也在全体会议上公布了我负责研究搭建。难搞

[hui9000]

@weilongs 我也有这担心，弄好了怕出其他幺蛾子，弄不好，又怕领导怪罪。
@Seulgi @kalman03 走中转方案 找能开票的中转 api 应该能避免这个；

[hui9000]

@Rnreck 兄弟我现在是骑虎难下了

[whoiskoala]

@hui9000 我这边有，怎么联系你呢？

[hui9000]

@whoiskoala 能开票么？

[whoiskoala]

@hui9000 能得