罗马大学证明 GPT 是单映射，理论上可以从 Output 倒推 prompt，细思极恐

[jacketma]

如果罗马大学、洛桑学院这些个机构的结论是正确的，不是证明 LLM 是一个巨型的彩虹表？

平时使用大模型的所有记录都能倒推，如果是公司敏感技术，一股脑全都能被逆向了？

自己在用 AI-based IDE 时，那些 secret key 都在代码里的，虽然代码库是私有的，通过 AI 这不都泄露出去了么

[hefish]

那怎么办。。。。我的隐私啊。。。 要被人发现了。。。

[superrichman]

谁让你硬编码的 🐶

[icyalala]

你首先得有大模型权重文件和算法才能反推，而且只是理论上。。。
理论上你知道 md5 和彩虹表还能反推原文呢

[jacketma]

@hefish 这情绪价值给足啊😂

[idealhs]

偷偷告诉你，人类也是可以倒推的

[dji38838c]

拜托!
论文原文、出处要给吧？

[billytom]

小声跟你说，每一次福彩的头奖号码，我都能找到某个理论和说法给你倒推回去并且逻辑自洽的，我这么厉害，你要不要 V 我 50 我教你？

[jacketma]

@dji38838c https://arxiv.org/pdf/2510.15511

[v1]

浪费时间、浪费金钱

[geelaw]

论文说的是从状态倒推，用户使用的 LLM 看到的输出不是状态，而是状态决定的分布的样本。

@icyalala #3 论文里有实验验证（需要权和状态）。另外这个和 MD5 是完全不同的情况：MD5 里面定义域比对应域小很多，因此必然损失信息；论文的建模里，定义域是有限集（注 1 ），对应域是连续统势的集，加上函数、参数的选择方式，以 1 的概率（此处的概率是参数初始化和训练的随机性）不损失信息。

当然，单射和可高效求逆是两个分开的问题，论文通过实验证明了可以高效求逆。

注 1：实际上应该可以允许到可数集，用概率对单调集合序列的连续性即可从有限集的情况自动得到可数集的情况。

[Rickkkkkkk]

如何很在乎隐私那不应该用 ai ，你输入的东西都是训练的语料。

[CrazyRundong]

“The key idea is that their components (embeddings, LayerNorm, causal attention, MLPs, and residual wiring) are smooth and structured enough”

开头第一段就绷不住了，搞 theory 的这帮人为了能推出个 bound 什么逆天假设都敢上

[members]

自己在用 AI-based IDE 时，那些 secret key 都在代码里的，虽然代码库是私有的，通过 AI 这不都泄露出去了么
===
你的 secret key 都是明文上传到服务器的，指不定都被存储了，何必担心倒推。

[jacketma]

@Rickkkkkkk 当作语料无所谓，万一屎山代码污染了大模型就不好了😄

[Randomjo]

自己在用 AI-based IDE 时，那些 secret key 都在代码里的，
----
不是，哥们，你用 AI 起个项目，他都知道 secret key 都是放配置文件的，然后他不会有访问配置文件的权限。。

[geelaw]

@CrazyRundong #12 hello, 这里 idea 的意思是“（证明）思路”，LLM 所用函数的解析性是数学定理，不是假设。

[jacketma]

@Randomjo 这不是为了测试方便嘛，给了 AI 读取配置文件的权限，一些外部接口不给权限项目跑不起来啊=_=！

当然也是因为懒惰，没有进一步细化的权限设置啦

[jacketma]

@Randomjo 另外，我觉得 AI 都在你家里窜来窜去了，那个路径权限可能也是个君子协议，和 robots.txt 差不多了

[030]

脑瘫，给你一个宇宙同等的计算机你还可以预测未来

[Sosocould]

这就是业界为什么说欧洲的人工智能前沿研究和学术比较拉胯，不如中美。