将代码中的密码等信息发给 chatgpt 等模型安全吗？

[zictos]

比如一些 ssh 连接信息、数据库连接信息、api 密钥信息，为了方便直接写在代码中，在复制进行询问的时候忘记去掉这些信息。

chatgpt 中的聊天记录删除后还会保存在服务器并用于训练吗？

[AEnjoyable]

除了测试中的占位代码用 123456 这些硬编码进去，生产环境的基本都是从环境变量，手工维护的 yaml 中读

[whileFalse]

代码里有密码就不安全

[lthon]

难绷，你这算是有安全意识还是没有呢

[c0t]

测试实例直接编码当然没问题，其他情况，自己做的东西，我用 1password ，代码里没明文

[crackidz]

有可能，有承诺，不可信。

当然，第一个问题是为啥代码里有密码/密钥等机密信息就不对了，你不在 AI 里泄露，也可能在写博客、微信/QQ 聊天中泄露。这些可是现实中实实在在出现过的案例

[julyclyde]

2014 年携程曾经把信用卡信息记录到日志里
然后日志泄漏了

你觉得 AI 的运行日志会不会泄漏？
我听说前几天好像有人发现他们数据库直接开放给全网了？

[ShadowPower]

不安全，我有次无意中发现 ChatGPT 已经掌握我司内部框架的用法了，并没有相关上下文和保存的记忆。
另外这些信息应该保存在环境变量里面，这样切换不同环境做调试还方便。

[520discuz]

用人不疑 疑人不用
谁也不知道你的数据值多少钱 你问这个没有意义

[HUZHUANGZHUANG]

分三种情况：
第一、你有阅读他们的用户协议吗？如果承诺了不使用用户数据，那就勉强相信一下吧
第二、你是付费用户吗？如果不是，免费给你用你还不想付出代价？
第三、你是付费用户的话，每个月 150 左右，能买来数据安全吗？我觉得不行

[adgfr32]

用户数据肯定会用作训练, 提高模型效果, 模型效果好再生成更高质量的数据, 互相促进. 但是这个模式不是左脚蹬右脚一直提升的, 一段时间之后会陷入瓶颈.
安全方面我觉得还好, 因为大模型的用户产生的是海量数据, 你的密码密钥在里面有种大隐隐于市的感觉, 找到他本身成本就很高, 除非这个公司很没节操, 故意去做这件事.

[zxkmm]

> 为了方便直接写在代码中

你有没有想过硬编码 key 到代码里这个行为本身就不安全

[nkidgm]

绝对不安全啊，你用的那些大模型的 APP ，没看到那张历史列表吗，敏感信息什么的妥妥的写进厂家云端的数据库，你以为在网页上面点击“删除”就真的删除了嘛？只要厂家动机不纯，它是不会真的删除的，而是全部留作训练 AI 的新语料，它只需在表里做个删除标记就行啦。

百度李彦宏除了最出名那句：“开源大模型都是智商税”，还有一句呢：“中国人愿用隐私换便利”。

[james2013]

在网上看到有些大模型，会把用户的提问内容，显示给另外的人……

[Greatshu]

不安全，但我无所谓，公司无所谓，甚至客户还推荐过我们用 Claude

[Felldeadbird]

没有相对安全，看你对数据的敏感度。
如果项目是高保密，肯定不能。
项目是普通。那随便了。

[levelworm]

内部信息还是不能进去，要去密。我找他写 sql 也是把表和字段名字改掉。

[exploreexe]

非常不安全 特别是一些国内厂商 慎重使用国内厂商的业务

[wupher]

不安全

密钥与代码隔离算是基本要求了吧

[sakura1988]

你把银行卡号和密码告诉我吧，我保证不用


你信吗？

[voya]

你不能控制他用不用你的数据，但是可以控制把什么数据给他