AI 现在智力的上限

[Rrrrrr]

大模型都是靠训练，所以现在的 AI 智力就等于最聪明那一群人了吧，应该不太可能会比训练它的人还强？

它学了几千万本书，但是这书也只是人类写的。

[WoodytheSuper]

AI 又不具备实质上的“智力”，哪来的上限

[charlie21]

池浅王八多，天才来到这里也得吃瘪

[2018yuli]

昨天我有个个人的强烈的直觉，不知道对不对，我秃然感觉 tking 的过程其实是：

```
经典著作 -> 沉淀 -> 通过深度学习“软化”并训练成了模型 -> zip 进大模型 -> 指导最终输出
```

然后，其实，所以大模型（或者它的训练者），额，更像 Zip 管理员，藏经阁扫地僧...........

[bunai]

@2018yuli 还不太一样吧，扫地僧还是有自己想法得，不然他为啥收萧远山和慕容博

[jko123]

用 ai 的人决定了 ai 的上限

[yidinghe]

你为何觉得训练完了之后，大模型就一定能达到训练材料来源的人的水平？训练完成的标准不是你想象的那样。

[sentinelK]

首先你得先说“智力”的定义到底是什么。

如果说知识量，那么具有完备工具（能信息检索，有联网能力）的 LLM 肯定是远超人类的存在。
毕竟，你问爱因斯坦是理想好还是问界好，他也得懵。

但是智力不光局限在知识量上。或者说人类的智力，是在人脑有限知识量的局限下，最大泛化的能力。
所以 LLM 的“智力”其实需要重新定义。

举个最简单的例子，假设一个 LLM 包含了全世界所有的信息，能背出目前所有问题的答案，那么他是智力强还是记忆力好呢？

[2018yuli]

😖 zip 管理员，也会基因突变，变成了......智能（不！幻觉）。

[Rrrrrr]

@sentinelK #7 目前应该是没有智力，因为没有自主思考。都是用一些算法来找出你要的答案，所以目前只是停留在搜索+算法的阶段？

[2018yuli]

扫地僧有自己想法，zip 管理员，会基因突变

[sentinelK]

@Rrrrrr 这么说也不合理。毕竟确实 LLM 通过统计学发现了很多人类没发现的“认知捷径”（也就是所谓的涌现）。
在人类中，这种“发现”其实就是一种智力的体现，也就是发明创造。

B 站还有数学学者在分享通过 GPT 来进行数学探索和研究已经是非常主流的一种工具了。
所以这个话题其实非常复杂。

本质上是在 LLM 时代，智力应该被重新定义。

[lujiaosama]

吐词概率机哪来的智力。

[coderlxm]

连很多数学博士都已经下结论了，这里的很多码农还依然很傲娇不愿意承认模型的智力

[changnet]

我觉得要谈智力，大模型先得弄明白 1+1=2 ，而不是根据已有的资料推测出 1+1 最大概率是 2 。所以用这个标准的话，现在所有的大模型智力都是 0

非得说现在的大模型和人来比怎么怎么样？那这个问题就变成了到底怎么才算智力。

[danhahaha]

生物进化几亿年，熟悉适应大自然。
再进化几万年到人类，掌握个种工具有了改造自然的能力。
最后几千年才有了文字，将所有的经验浓缩提炼为可以交流的语言。
再到几百年，才大规模的出现书籍，再次浓缩，精简。
再到近 10 年，AI 将这些全部吸收，训练，看起来真的是集人类的知识精华，但这只是人类的角度看，从自然来看，它只是个新兵蛋子，连最低等的植物，爬行动物都不如，要走的路还很远，整个物理，各种感觉，它还没有入门

[JingW]

我觉得除了纯智力以外，有些制约条件都没有获得充分的讨论。这些条件起码制约了人类的智力达到最大的效用。
体力和心理是我想到的两个制约条件，对大模型来说这两点都是不存在的，大模型会不知疲倦的运行它的’智力‘。所以人的智力和模型的’智力‘那种效用更大，可能需要考虑更多的因素

[wangyaominde]

“我将直白的说明，不加修饰的告诉你这一切” 首先得先定义什么是智力，上面几个回复一直在猜模型怎么工作的，可以去看看很多讲解，工作原理没那么高深