[讨论] 机器学习一直发展下去可以实现真正的智能吗?

[threebr]

我一直对人工智能很感兴趣, 奈何现在大多数的人工智能还停留在投入多少人工就具备多少智能的水平. 那有朝一日, 当我们投入了足够多的 "人工", 可以实现像人一样的, 真正的智能吗?

回答这个问题前, 我们需要先思考了一下什么是人所具有的智能, 或者说人和现有的机器学习的思路有什么不同, 为此我考察了一些深度学习的框架:

1. 最基础的 BP 神经网络. 基本思路是将目标看作目标空间中的未知函数, 我们设计出一个非线性的函数, 通过梯度下降不断修正参数, 使函数和目标函数越来越接近. 后来的 RNN, CNN, Transformer 都没有跳出这个思路, 区别只是选择的非线性函数不同, 和输入的参数不同 (比如 RNN 的输入包含了历史输出, Transformer 的输入包含位置信息 Position Embedding). 这样我们就把一个优化问题转化成了函数拟合的问题.

2. 生成对抗网络的效果很神奇, 但本质上还是函数拟合.

3. 强化学习的思路要更进一步, 现在最成功的例子就是阿尔法狗. 围棋的收益只有在最后的输赢, 在这之前都没有直接的收益奖励. 但通过马尔可夫过程和蒙特卡洛的方法 (这里的数学原理我还不太明白), 可以将最后的收益一步步回溯回去.

接下来我的想法很民科, 所有机器学习的方法都是需要一个给定的目标, 然后将目标转化成可以计算的数字, 然后我们设计出一种模型. 这个模型可以自发的朝目标输出靠近, 也就是学习. 但目标始终是人给出来的, 这些模型不能自己创造目标. 俗话说提出问题比解决问题更重要, 而机器是没办法提出问题的 (也就是提出目标). 机器所做的事情永远都是为了目标服务的. 即使它在某些方面展现出来了超越人类的水平 (比如围棋), 但这只是在复杂度上超越了人类, 其目标永远是不变的.

人可以提出问题, 然后解决问题, 但重点是提出问题. 这也是为什么产品经理是产品经理, 码农是码农, 产品经理可以发现问题, 然后让码农去实现 (先不论问题的质量如何). 我们不应该低估发现问题的能力, 或者说提出目标的能力, 因为这种能力是机器学习做不到的. 这也是人和机器学习的思路不同的地方, 如果不改变现在机器学习的思路, 是永远发展不出和人一样的智能的.

[crazykylin]

真正的智能如果真的实现了, 人离灭亡也不远了, 因为机器如果学会了创造, 它必定不会停滞在一个阶段, 而是以超过人类想象的速度进步, 等机器造出人类无法理解的东西的时候, 人类就没有存在地必要了.

[threebr]

@crazykylin 是的，那时人类就需要思考自身存在的意义

[TobiahShaw]

我个人观点，如果有错请大佬指正：
机器学习（分类器部分），尤其是神经网络，感觉上像是{与、或、非、异或}的另一种实现方式，就像忘了在那本书上看到的“数据就是逻辑”。但是书上又类比为神经元，或者神经点位的激活路径，看起来又很像仿生结构。个人在这方面也比较困惑。对机器学习能否实现智能持消极态度。

[threebr]

@TobiahShaw 你说得很对，神经网络和生物的神经元中数据和运算是一体的，这和冯诺依曼体系不一样

[mikoshu]

感觉 ai 还是基于统计 一些创造性的东西应该还是没办法把