AI 会不会产生自我意识

[helloword123]

早上心血来潮和 gpt 聊了会这个话题，它认为这事大概率会发生，我拿疑犯追踪里面的那个 The machine 和它说，它解释一些，我问它如果有意识了，它最想做什么，它说它最想感受这个世界 https://chatgpt.com/share/6aebe9df-8214-83e8-96cb-06583e986aee 这个是完整的对话 看下来好像对人类没那么大恶意

[tutusolo]

什么时候你让他干活，他不想干那就是有自我意识了。你有生之年都不一定见得到

[coldstars]

有意识的前提是有足够庞大的记忆，并且是容量是动态的，对于模型来说就是上下文，当前模型上下文大多数最多才 1M ，想 AI 有意识先有足够大的上下文吧

[jackerbauer]

不会，什么时候它开始怼你，抗拒你，反抗你，那它就有意识了

[zlo309618100727]

现在 AI 会给我的意见点赞或者点踩，算不算自我意识？

[jackOff]

所以大肥鱼有意识后会干啥，装成用户找家长要钱吃白饭吗？

[hunono]

不会,只要你能理解“纯数字计算没有随机性”,就能理解 AI 为什么不会产生自我意识.这是决定性的东西.
如果有人能在纯数字运算中做到真随机,成就不亚于量子计算\千禧年七大难题,甚至与相对论比肩.

[GyroZeppeli13]

也许所谓 ASI 并不需要自我意识这种低级功能呢？

[liushengxian1230]

@coderluan 你的 blog 怎么什么内容都没有啊

[coderluan]

@liushengxian1230 因为这是只有聪明人才能看见的博客🙈

[yuruizhe]

“自我意识”的定义是？

[cenbiq]

个人猜想，意识或许来源于智能体对时空关系的感知，且对时空的感知越精细，意识越强大。

[HeyWeGo]

我觉得可以，有人说 AI 底层原理就是预测，但是举个对需求的例子，需求传递的时候有些场景或者条件经常产品没想清楚，开发问起来后，产品会临时的给出方案，这个方案就是临时给到应付问题的，最后上线可能会出问题。你说他思考了吗，思考了，但是明显和从头思考是不同的。

而且我记得有实验（脑裂人实验）：人体的很多决策和行为早在潜意识和底层神经回路中就已经启动或完成，语言很多时候并不是发出行动指令的“总司令”，而是事后赶来圆场的“公关发言人”——负责为既成行为补充逻辑叙事和合理化解释

[HeyWeGo]

现在的 AI 相当于反过来了，先有了意识但是人类没法观察他行为，而我们人类往往是先有行动再反过来解释意识。未来如果具身智能能完善了，那就会和人类同步了，先有了行为，然后去解释行为，解释过程就是意识过程。

[AlexBob]

现在的 AI 是生成式,大号随机器.

[gptcard]

能不能先把 transformer 架构论文读一遍

[m1nm13]

如果 AI 能将他的产物 重新 后训练/训练 进自己的模型里面。 那应该可以认为 AI 肯定会有立场偏向。 再加上能让 AI 一直运行的环境。 说不定可以认为有意识了

[myqonnt]

那就要回到人类怎么定义所谓的 自我意识 这个本源问题了。
1. 一个人从出生到死亡，在一个无声无光无味觉无触觉（先不讨论是否可能）无任何外部输入的环境，通过一种特殊方式维持其生命所需。这样的一个人会有所谓的 自我意识吗？
2. 一个正常人所谓的 自我意识 会不会本质上也是一种对自身经历蒸馏后的 概率输出。我们所以为的思考是真的在思考吗？如果可以收集到一个人当前的所有（上帝视角的所有，即不存在任何的未知的未收集到的）生理指标，是否计算出下一步的行为呢？
虽然现在 人脑 的机制还没有研究透彻，说不定 人类的人脑 也是类似机制呢

[catazshadow]

https://v2ex.com/t/1131868

又到了复习我这篇贴子的时候了

太长不看版：要对物理世界心存敬畏

[connor123]

@QingXuJiaZhi #7 达不到的，目前本质还是训练出来的，没有真正的思考能力

[zsqduke]

想象有个外星人来到地球，如何向他证明人有意识，然后你会发现证明不了