公司内大模型应用，领导打算从阿里百炼平台切换到私有化部署，如何打消他的安全隐私顾虑？

[boringwheat]

1. 业务平台已经在阿里云 ECS 上了；
2. 去年用百炼搭建了一个 RAG 应用（ OSS+百炼向量知识库+API 调用千问）；
今年领导觉得用云平台不安全，打算自建，我应该如何打消他的顾虑；（公司就我一个 IT,如果购买大概率就是买 deepSeek 一体机，实在不想自己再额外看护一套设备）。
目前几个理由：平台的隐私说明，保密协议，大模型的迭代速度，MCP...

[fredweili]

有多少访问量啊？需要多少 GPU 啊？开源模型将来的路线路啊？
这个东西就是成本算账，隐私这玩意说不通

[yinmin]

云上用 ai ，有 2 种方式：调用 api 按 token 收费，租算力自搭建 ai 按服务时间收费。如果领导担心第三方 api 截取对方记录，可以在云上租算力（服务器）搭建 ai

目前 ai 进展太快了，自购硬件可能没几个月就落伍了，不如按月租云服务器

[boringwheat]

@yinmin 我也在推荐云上租用服务器的方案

[boringwheat]

@Meteora626 我算是花钱买服务了，有问题提个工单；另外业务系统的文件都是存在阿里的 oss 的，百炼支持一键导入知识库

[boringwheat]

@fredweili 面子工程，访问量几乎为 0 ；现在大部分公司的 AI 都是找使用场景， 我们今天也在打算强制在某些场景使用（比如决策环境的风险提示）

[Meteora626]

@boringwheat 开源平台基本上都支持 api 导入文件，自己写个定时任务就行了。 但是私有化部署 和商业版本还是有区别的

[gaigechunfeng]

楼主请教一个问题，我们现在是直接调用百炼的 qwen-plus 的 api ，根据进出的 token 收费，但是没做任何定制和训练。我得问题是：百炼是否支持自己提供一些打点数据去做专门的训练？然后如果自己去训练了大模型，收费怎么算？还是根据 token 收吗？

[boringwheat]

@gaigechunfeng 模型调优吗？支持是支持的，但是好像是要租用云主机了，我理解应该租用后按照主机配置、时间收费，跟 tokens 就无关了

[boringwheat]

@gaigechunfeng 建议直接开工单找售前的人聊，可以让本地供应商上面讲解一下