在不考虑本地部署大模型的情况下，使用 AI agent 办公时如何尽可能确保数据安全？

[EchoPrince]

老板最近让在公司推广 workbuddy 、千问办公等，帮助普通员工提效。主要基于两点：一是公司现有的 MySQL 业务库，二是钉钉聊天记录和钉钉知识库。数据库还好，做权限管控和数据脱敏都比较方便。问题是基于钉钉聊天记录和知识库中的信息，怎么对文本文档进行脱敏呢？如果不脱敏，是否有限制模型不泄露数据的方法？

[jacketma]

只能寄希望大模型厂家瞧不上你这点数据，厂家故意泄露是不会的，拿去炼丹和意外就没办法了

[NewYear]

书面和老板报告风险吧，提自建方案。
不同意没关系，保留证据。
事后追查的时候都是看证据的。

各种内部数据上云，要泄露也没办法，全凭良心。
我们早就用各种云表格放内部数据，方便就完了。

之前还有各种员工，财务部门表格自动备份到 wps 云，只能当做没看见，要限制也不知道怎么限，各种都能泄露出去，，，，信息安全真要上纲上线根本搞不了，，越来越无奈。

[MoozLee]

和上游渠道签协议吧。我们公司是和阿里签的，一些合同什么都是走千问的。

[fcten]

做一个 hook ，审查工具调用和工具返回的结果。基于简单的规则匹配就可以。如果要审查自然语言的话也可以做一个小的分类模型。
肯定没办法做到 100%，只能说降低一些风险。

[Daybyedream]

不考虑本地部署。。。。。。大概就是所有发过去的数据都过一遍通道，里面会把你自己定义的规则的一些东西给托脱敏？但是这种。。。。

[qiuhang]

保证不了，被拿去炼丹大概是必然的。至于提取里面的机密信息来牟利之类的，只要用的正规厂商产品应该不至于。

[jackOff]

公司花钱自己买服务器本地部署，除此以外全是扯淡