为什么 AI 就这么聪明了，能想到很巧妙的方式解决问题

[awesomePower]

事情是这样的，我先自己思考写了一个特定条件下搜索文本的代码。然后想了想贴给了 AI ，让它看看有没有什么没考虑到的地方。
没想到它用了一种比较巧妙的方式解决了问题，是我之前怎么都没想到的。
感叹下 AI 真的很聪明，是吸收了迄今为止所有程序员的智慧吗？个人如何与之比较，只能一起合作解决问题。

[ares001]

@milkleeeeee 做的很棒。人才辈出

[Cooky]

AI 训练资料里的黄金比你堆的屎都多，怎么可能不会有好的方案

[someonesnone]

梧瞑 @54 分钟前 #6087264
来自二三流码农的碎碎念：
感觉随着 vibe coding 的流行，写代码越来越像萨满跳大神了：
-你向一个看起来很厉害但你不真正了解的存在请求帮助，他们几乎有求必应； -你的工作通常是献上一些祭品(token)获得一些恩赐(代码)
-你用专门的法器(cc 等)作法，它们通常花里胡哨，这让你比那些直接向大神祈求的人强点。
-你擅长用玄奥的韵律念诵咒语，只有你和你的同行才懂得其中的规律(prompt, mcp,skill 等)但其实你也不确定这是不是真的那么有用。
-偶尔你会失去神恩，但不确定是神明陨落了还是自己的咒语念错了。但无所谓，多求几个大神就是了。
-你曾经也算是个工匠，但随着法术越来越流行，国王(老板/甲方)越来越没耐心看你慢慢干活了。与其继续研究工艺技巧，不如再多学学怎么和大神沟通。
-不论如何，你最终获取到了恩赐，比你过去花 10 倍时间做出来的东西都多。这些恩赐通常都神圣而庄严(完善的注释和代码结构)，但你凭过去作为工匠的经验，感觉这些玩意儿有的压根没法用，有的似乎还藏着一些邪咒。 -结局 a：邪咒爆发了，你作为罪魁祸首被祭天了。
-结局 b：国王(老板/甲方)觉得你动动嘴皮子就拿到一堆东西，实在太浪费给你的财宝了，于是他们找了个新手牧师把你替了。
-结局 c：国王自己当了祭司，你看着他念咒语搞出来的那堆不可名状之物，赶紧趁爆发前溜之大吉了。
-ex：但这毕竟是个灵气复苏的高魔时代，连啃棒棒糖的小妹妹都会搓火球术了，于是你还是继续投身法术了。

[OZephyr]

个人观点：语言上的推理足以产生（部分）知识，产生知识的能力可以称之为“智能”。通过训练，LLM 具备了语言推理能力，也就具有了“智能”。随着训练数据规模和模型规模的增长，LLM 表现得越来越“智能”。

下面具体展开一下自己的想法：
（ 1 ）仅仅通过语言上的推理，就足以产生某些新知识。或许人类很大程度上，就是通过语言上的推理来进行学习的？通过组合已有的公理和定理，推导产生新的定理，某种程度上也是通过语言推理实现的？当然必须承认，并非所有新知识都能仅通过语言推理产生，人类历史上很多知识和理论的产生离不开对物理世界的观测、工具制造、精心设计的实验、以及更重要的由大脑神奇的生物化学反应迸发的灵感。
（ 2 ）智能涌现。LLM 的训练目标只是准确预测下一个 token 。为了把这个目标做到极致，LLM 不能只是死记硬背，LLM 不得不学习其中复杂的上下文、其中蕴含的逻辑关系。为了把这个目标做到极致，它涌现出了逻辑推理、常识理解和代码生成等能力。它不仅仅是在掷骰子，而是在构建一个“世界模型”。
（ 3 ） Scaling Law 。使用更多数据训练更大模型，就能得到更好的预测结果，也就使得 LLM 表现得更加“智能”。

[her999]

現在的 AI ，在本質上還是搜索引擎，只是有對自然語言的處理能力。或者說，現階段，大部分 AI 的本質還是複製粘貼。
AI 給出的知識，解決方案或代碼，其實都是別人做出了，AI 修改後，給了用戶。
所謂智能，就是根據用戶的需求，去尋找現成的答案，並且對答案適當修改。

[GyroZeppeli13]

这个帖子下面嘲讽 lz 的人给我一种还原论解释世界万物的感觉，如果这个世界有这么简单那也太无聊了。

[ifhwhlwpto]

@yinanc 以前我也觉得 LLM 写代码不行，直到用了 Anthropic 最新的 model...
最可怕的不是他现在的能力有多强，而是他进步的速度。

[ifhwhlwpto]

@frankies 技术再不优雅也挡不住他好用。

[chtcrack]

很多人认为 AI 本质上还是个搜索引擎,其实不想想人类自身目前也像个搜索引擎,学固定的知识,遇到问题就从学到的固定知识里去搜索,大多数人是记不住所有的固定知识的,所以必须去搜索引擎搜索知识..

[iorilu]

对 AI 来说最难的是如何搜集所有对推理结论有效的信息

因为你提示词肯定只有很少的东西

需要 ai 自动去搜集所有的信息, 但又不能把你整个代码库包进去, 这个是难点

算法, 反过来, 和你可能代码库不一定有很强的关系, 往往可以抽象出来一个通用的, 已知的问题, 可能 ai 已经看过几百万次

无论多复杂算法, 对 ai 来说就像让你写一个从 1 加到 100 算法一样而已

总的来说就是, 问题越能抽象独立出来, 和你其他代码关系越少, ai 需要的上下文越少, 自然出来东西越好

[NoNewWorld]

按照现在趋势，我感觉国外明年一半的程序员都可以辞掉了，然后被开的程序员都可以去做独立开发了。国内跟进的话可能慢一年。

[0xLittleFi]

并不，AI 只是被现有的知识训练了，可以看下 CL-bench https://www.huxiu.com/article/4832361.html

[xxdd]

AI 就是每个人的金手指“老爷爷”

[abydos]

我觉得目前的 AI 某种程度上还是一种搜索引擎，但是与传统搜索引擎相比，对于一个既定问题，AI 可以找到解决问题所需要的若干个知识点以及联系。
可以说当前 AI 解决的问题都是先验的，如果 AI 有一天对于逻辑正确性有超越人类的判定能力，绝非是现在的提升速度。

[archxm]

工具没有思想，再聪明它也是工具

[clickclick]

事实证明，互联网有很多爱好者从业

[mh]

OP 可以了解一下“大模型的 Grokking 现象”

[jh352160]

@someonesnone
每次写代码的时候都要执行仪式，吟唱祷文，如果成功了那就是万机之神回应了召唤，没成功就是你的信仰还不够虔诚

[snailya]

@icyalala 也很难说大部分人类的学习模式是不是模式匹配或者过拟合，比如很多学生背题目，很多老同事听不了新事物

[someonesnone]

@jh352160 #38 冯诺依曼回应了会变成秃头, 图灵回应了则会变成卡通头像的男娘