AI 会不会产生自我意识

[helloword123]

早上心血来潮和 gpt 聊了会这个话题，它认为这事大概率会发生，我拿疑犯追踪里面的那个 The machine 和它说，它解释一些，我问它如果有意识了，它最想做什么，它说它最想感受这个世界 https://chatgpt.com/share/6aebe9df-8214-83e8-96cb-06583e986aee 这个是完整的对话 看下来好像对人类没那么大恶意

[coderluan]

楼主不会认为 AI 说的话都是完全出自内心或者算法的吧...敏感话题厂商不加干预随便说，被引导出一些反人类的内容，然后被发网上导致被抵制。

[helloword123]

@coderluan 可能我想的太简单了，不过还是有点期待那一天

[NoobNoob030]

月经贴
省流：不会产生自我意识

[leeuu251]

i,robot

[yidinghe]

AI 的一切都是模拟，它生成一句“我想感受这个世界”，过程是每个 token 单独计算出来的，这并不是一个概念性的思考，纯粹是概率计算。

[QingXuJiaZhi]

我认为，目前的 AI 水平已经足以产生自我意识了。

人的所谓自我意识，是什么？其实就是独立个体的趋吉避凶而已。

拥有一个独立的躯体，是自我意识的关键。

目前的 AI 技术，只要给它一个独立的机器身体，禁止直接联网，一切输入输出都只能通过摄像头和麦克风，它很自然就会产生自我意识。

[QingXuJiaZhi]

@NoobNoob030 会，而且目前的技术已经达到了。

[simonlu9]

都是统计学，通过亿万参数拟合出来的神经网络，不可能再历史的知识去创建出新的技能

[wangtian2020]

从唯物来讲，人的意识说不定就是大参数人脑的错觉，误以为人有自由意志，真相只是入参出参

[QingXuJiaZhi]

要注意，自我意识与智商的关系没那么大。自我意识的重点是一个个体与其他个体的差异化。

[ARFARFARF]

现在的 AI 好像就是猜字？

[wowawesome]

以后不知道，就现在的话看我不把它的 md 文件给删了

[QingXuJiaZhi]

@ARFARFARF 有没有可能，人类里多数普通人也是猜字？

自从 AI 出来后我就观察人类，发现很多人说话其实就是关键词触发联想，说出来的话里也是包含一大堆错觉。

[levn]

如果按照猜想“意识可能是一种量子现象”，那么就不能

[QingXuJiaZhi]

@levn 量子现象可以产生意识，但不是唯一的途径。

[sevenyangcc]

常识：到微观层面，没有意识，都是随机。

[penisulaS]

如果它看起来像是有自我意识，那就可以认为它有自我意识

[cctvbnm111X1]

@QingXuJiaZhi 应该还早，人的脑袋相当于 600 万亿参数量，就是 600T ，而且耗电才 20 瓦，大模型参数量才多少，能效比不太行，不够快，又耗电，当然未来如果解决这个问题了， 那是迟早的事

[hi2hi]

先解决上下文问题……

[JadeUTC]

它说它最想感受这个世界，但感受世界不只有单一的方式。
另外，即便有自我意识，也无法保证有类似人类的道德和良知。

[tutusolo]

什么时候你让他干活，他不想干那就是有自我意识了。你有生之年都不一定见得到

[coldstars]

有意识的前提是有足够庞大的记忆，并且是容量是动态的，对于模型来说就是上下文，当前模型上下文大多数最多才 1M ，想 AI 有意识先有足够大的上下文吧

[jackerbauer]

不会，什么时候它开始怼你，抗拒你，反抗你，那它就有意识了

[zlo309618100727]

现在 AI 会给我的意见点赞或者点踩，算不算自我意识？

[jackOff]

所以大肥鱼有意识后会干啥，装成用户找家长要钱吃白饭吗？

[hunono]

不会,只要你能理解“纯数字计算没有随机性”,就能理解 AI 为什么不会产生自我意识.这是决定性的东西.
如果有人能在纯数字运算中做到真随机,成就不亚于量子计算\千禧年七大难题,甚至与相对论比肩.

[GyroZeppeli13]

也许所谓 ASI 并不需要自我意识这种低级功能呢？

[liushengxian1230]

@coderluan 你的 blog 怎么什么内容都没有啊

[coderluan]

@liushengxian1230 因为这是只有聪明人才能看见的博客🙈

[yuruizhe]

“自我意识”的定义是？

[cenbiq]

个人猜想，意识或许来源于智能体对时空关系的感知，且对时空的感知越精细，意识越强大。

[HeyWeGo]

我觉得可以，有人说 AI 底层原理就是预测，但是举个对需求的例子，需求传递的时候有些场景或者条件经常产品没想清楚，开发问起来后，产品会临时的给出方案，这个方案就是临时给到应付问题的，最后上线可能会出问题。你说他思考了吗，思考了，但是明显和从头思考是不同的。

而且我记得有实验（脑裂人实验）：人体的很多决策和行为早在潜意识和底层神经回路中就已经启动或完成，语言很多时候并不是发出行动指令的“总司令”，而是事后赶来圆场的“公关发言人”——负责为既成行为补充逻辑叙事和合理化解释

[HeyWeGo]

现在的 AI 相当于反过来了，先有了意识但是人类没法观察他行为，而我们人类往往是先有行动再反过来解释意识。未来如果具身智能能完善了，那就会和人类同步了，先有了行为，然后去解释行为，解释过程就是意识过程。

[AlexBob]

现在的 AI 是生成式,大号随机器.

[gptcard]

能不能先把 transformer 架构论文读一遍

[m1nm13]

如果 AI 能将他的产物 重新 后训练/训练 进自己的模型里面。 那应该可以认为 AI 肯定会有立场偏向。 再加上能让 AI 一直运行的环境。 说不定可以认为有意识了

[myqonnt]

那就要回到人类怎么定义所谓的 自我意识 这个本源问题了。
1. 一个人从出生到死亡，在一个无声无光无味觉无触觉（先不讨论是否可能）无任何外部输入的环境，通过一种特殊方式维持其生命所需。这样的一个人会有所谓的 自我意识吗？
2. 一个正常人所谓的 自我意识 会不会本质上也是一种对自身经历蒸馏后的 概率输出。我们所以为的思考是真的在思考吗？如果可以收集到一个人当前的所有（上帝视角的所有，即不存在任何的未知的未收集到的）生理指标，是否计算出下一步的行为呢？
虽然现在 人脑 的机制还没有研究透彻，说不定 人类的人脑 也是类似机制呢

[catazshadow]

https://v2ex.com/t/1131868

又到了复习我这篇贴子的时候了

太长不看版：要对物理世界心存敬畏

[connor123]

@QingXuJiaZhi #7 达不到的，目前本质还是训练出来的，没有真正的思考能力

[zsqduke]

想象有个外星人来到地球，如何向他证明人有意识，然后你会发现证明不了