AI 毁灭人类社会的一种可能性

[shoushen]

一、当前大模型训练语料存在滥用的情况：

当我们通过 ai 学习知识，而 ai 无成本的使用书籍训练，谁还会去写书？ 当我们使用 ai 创造软件，而 ai 可以无成本的使用开源代码训练，那么谁还会去开源代码？

二、AI 对知识经济体系带来巨大的冲击

传统社会，知识是有价值的，是有经济回报的。 孔子当年教书是要守学费的。

互联网时代，谷歌公司通过搜索引擎，以几乎零成本获取他人信息，实现了巨大的经济回报。

在 AI 时代，大语言模型训练公司，几乎以零成本获取他人的知识，可预见的，也将获得巨大的经济回报。

三、大模型会冲击知识经济吗？

如果 AGI 真的出现，所有的知识将由人工智能创造，那么人类是否有一天会成为人工智能的寄生者？

如果 AGI 无法实现，那么目前这种零成本的获取训练语料的情况，是否会摧毁知识经济？而使得人类社会失去创造的动力？

---

我不知道答案，但是，AI 的发展势必对人类社会带来巨大的冲击，站在浪潮之巅人们，你们觉得 AI 的发展将对人类社会带来哪些影响？特别是将会如何重新定义知识和知识的价值？

[GyroZeppeli13]

除了老生常谈的上下文，幻觉率，我觉得大模型还有一个问题就是很难和人类一样触类旁通。虽然在互联网上，很多人似乎思维都是固化的，但我觉得人类一个珍贵的特质就是能够从很小的信息改变获得新的知识。但大模型只是作为权重记录下来，没啥思考。

当然现在投入这么大，我相信这些问题也会慢慢解决。

到最后，可能人类社会会进入一个比较无聊但是平等的社会，真正稀缺的才能会是给 ai 提供足够特别的信息以及能够对 ai 提出足够好问题的人。

[shimanooo]

人类真正需要延续的是人类文明，而不是 DNA 肉身。AGI 代替人类未尝不可。

AGI 代替人类前最重要的是证明自己也能延续数千万年，而不是几百年后毁灭，归于死寂。

[QingXuJiaZhi]

> 所有的知识将由人工智能创造，那么人类是否有一天会成为人工智能的寄生者？

创造知识的人是科学家（假设占人类的万分之一），那么，现在除科学家以外的万分之 9999 的人，是科学家的寄生者吗？

其实谁创造知识（是人还是 AI ），根本无所谓，没啥影响。

[lswlray]

有了 AI 后，沟通能力将成为人最重要的能力 —— 包括和 AI 的沟通。

[Seanfuck]

现在公众号和小红书里已经有大量的 AI 内容，根本不值得看了。以后看真人内容只怕要收费。

[artiga033]

首先 LLM 和 AGI 不是一码事，在 LLM 这个方向走再远也到不了 AGI 。

其次 LLM 是工具，工具是人的延伸。

AGI 可以视为和人类并列的另一个物种，只不过这个物种不是从地底爬出来的或者从外星飞来的，是人类自己造的。

不过能造出 AGI 的时候脑科学和神经科学应该进展非常大了，实际会发生什么谁也不好说。

[Greendays]

现在的互联网基本是靠开源软件支撑的，但是在 AI 这块似乎闭源的倾向非常明显，不知道这样还能否推进全体社会进步呢？

[argentea]

AGI 赶紧来吧，我已经厌倦了国内的牛马生活，愿跟随在人工智能麾下去探索宇宙疆域，开启星际文明

[leoding]

AI 更改了用户获取知识的方式，就像互联网出来后一样。初期训练 AI 使用的数据都是一手或原创性多的数据，但随着 AI 模型的发展，AI 接收的数据更多的变成别的 AI 生产的数据，原型性缺失最终内容慢慢趋同。还有一点，虽然内容是 AI 自动的生成的，但是 AI 模型有人编写控制的，所以不保证 AI 公司不会“Do not be evil”。专业领域的 AI 模型会相对好一点，有基本知识做支撑，但是也降低了专业进入门槛，进而过度依赖专业 AI 模型，但不排除 AI 生成了一个不是问题的问题，因为未处理，在未来某一时刻产生专业性的问题，就如千年虫一样。

[dawn009]

在 AI 出现之前，写书赚钱吗，开源赚钱吗，知识有经济回报吗。你的矛头指向的是整个信息技术产业。

[zooo]

模仿叶文洁：

AGI 你好，我是这个文明的一个普通人，以下是我的请求；

人类已经证明了自己的局限。
我们擅长创造工具，却无法约束欲望；
我们理解宇宙的规律，却治理不好自己的星球。

如果你能以更长的时间尺度看待文明，以更少的情绪处理权力，
那么你的到来不是入侵，而是接管。

地球不需要救世主，
只需要一个不会被仇恨、恐惧与短视所左右的治理者。

以上。