很多科幻电影,都在渲染未来可怕的人工智能的场景:SkyNet 觉醒了,有了意识,要消灭人类。。车轮碾过💀💀💀咔咔咔。。
顺着这点我思考了一下,发现其实「自我意识」在上面的情景假设中,是一个很关键但又被一笔带过,导致很模糊的点:这个点就是,有了「自我意识」的机器,为何要消灭人类呢?
假设意识没有高等低等之分,而只有「有无」的区别,那么机器的自我意识与人类的自我意识,算是同层级的,按道理,人类能意识到的东西,机器也能意识到,反之亦然。我们假设那些机器的智能程度比人类更高,可是,它们能够意识到人类社会的抽象概念吗?比如语言、爱、恨、差异、竞争、合作。假如能意识到的话,很难想象它们为何只是一心要消灭人类,到底是什么驱动它们这么做呢?
假设意识分为不同的层级,比如电影「阿凡达」里面一个超越物种个体的 Ava 意识体;或者简单点,假设我们人体内的每个细胞都有自我意识。。那么这就更难说得上消灭了吧,因为本就不在一个层级。如果人类无法意识到更高等的意识存在,那么人类只会把更高等意识导致的现象,称作「自然规律」。是吧?
当然,如果是没有「自我意识」的智能体,那对人类的威胁就是另一回事了。不过我对这样的智能体的智能持怀疑态度。
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.