对于目前的关于 ai 的看法和感受

[jony83]

ai 永远只是效率上的工具。 他没有对闭源项目的训练，让做个几年前的 windows95 它都永远都无法实现。 否则大家都去叫 ai 做个华尔街前 10 对冲基金的量化算法了，大家都不用上班了。

ai 本质是文本 tokenizer 化，在向量空间中的寻找最近一个点，取出来后再找最近的点。 它根本就无法理解我们的世界，因为它没有“理解”这个范动作，它是工具是靠概率,它的‘理解’只是前后关系的向量长度或多维度的向量长度。

如果以后 ai 大规模普及，就跟汽车淘汰人力车一样；电脑淘汰手绘画图工程师，操盘员一样。它会创造更多靠 ai 吃饭的人。

从人的历史规律来看，如果一个工具大范围广泛使用，它只会淘汰老旧工具的使用者，但同时创造更多使用新工具的岗位。

我看还有人认为 ai 不算工具，会演变成具有思维意识的‘生命’，我认为人类消亡都不会发生。 只要是人造的就能被量化，能被量化就能提前知道结果，而思维意思是不可量化的，否则就成算命的，某天某时注定会发生什么。就好比你说造出真随机，造出来就应该能量化，不量化怎么验证它是真随机，这跟造出时空机穿越回去杀祖父的道理是一样的悖论。

[Judyhhh]

人类说到底不也是一堆分子原子组成的东西，运转在这个世界的规则下面，什么真随机，量化，不都是人类自身提出的概念。思维意识能不能量化，还真不好说

[jixiafu]

@jony83
反驳你，人发明的不能被量化的东西，就是你提的 ai ，ai 发展到现在还是个“黑盒”，无法被量化理解。
多说几句，其实你前半部分观点现阶段来说还算是符合技术事实的-AI 现在确实是个效率工具，底层也确实是基于 Token 化和向量空间的概率计算。但是最后一段的推论，逻辑就有点荒谬了，比如说能被量化，就能提前知道结果；再比如说思维意识是不可量化的这些。现代科学和数学早就证明了这是错的。

[jony83]

@Judyhhh 你前段说的没错，但是后段逻辑有问题，思维能量化就能知道结果和范围，知道结果就不等于注定吗？谈何随机性呢？如果思维能量化，人的一生就决定了，就算知道结果再怎么努力也无法改变，比如算出你明天出门去上班，就算你老婆意外被车撞了，你也不会去医院看你老婆。除非你定义的思维不是人的思维。

[AItsuki]

目前 AI 就是工具，不止是缺乏闭源项目的训练，而是使用频率比较低的一些代码它也写不出来。偶尔它能用更啰嗦性能更低的方案实现出来，能用，看开发接受不能接受吧。
它确实不可能实现写出 windows95 ，至于后面的幻想就没必要讨论，讨论到一定程度肯定就是哲学问题，然后扯到生命定义去了。

[Judyhhh]

@jony83 #23 首先，举例的时候请拿你老婆，不要拿我老婆，你老婆被车撞了你去不去医院我不管。其次，我理解你想表达的是思维是不可被量化的，这本身就是一个未被证明的命题，命运是不是注定的，本身也无法被证明。是不是随机，和能不能知道结果，也是两码事，即使思维能量化，人的一生确定，也不代表你能知道结果。

[MidLinn]

不是很懂有些反驳 op 的言论。难道现在的 AI 和两三年前的 AI 不一样？在我的认知中应该都还是 LLM 那一套啊？

[jony83]

@Judyhhh 我没别的意思，我是用悖论的方式证明来证明人的思维不可量化，我表述的不够严谨。

[shyrock2026]

愿世界多一些 op 这样的认知，这样我们也许可以活得不那么艰难 =）

[chambered]

我想看看各位用 ai 搓出什么很牛逼的东西

[swananan]

楼上一堆鄙视 op 的，我其实有点赞同 op 的观点，AI 绝对不是无所不能的，并且存在很多使用限制（没有长期记忆，难以培养，随机甚至随意），而且从原理上看，也看不到突破这些限制的可能。
当然 AI 焦虑也是真实存在的，我的工作和生活也无法离开现在的 AI 。

[ttsh]

AI 本来就是概率论啊，每个出现的字都是因为在上下文里权重比较大，当然权重具体怎么算的是一个很复杂的东西

[restkhz]

不谈论 AI,但是什么叫“只要是人造的都能被量化”，“意识不能被量化”？
那么，艺术，诗歌的好坏，作为人造概念，如果你认为思维不可量化，作为意识延伸的他们可以被量化吗？

上面部分我在试图制造悖论反驳，和下面内容无关。

思维意识真的不可以量化吗？
你举的反例并非证明了思维不可量化，而是不可能得到完全准确未来的信息。
你讲的更像是如果我们制造了精准预测石头剪刀布的机器，那么两个机器互相作为对手将会陷入死机。但是这和思维，意识能否量化无关。我们哪怕接受了拉普拉斯妖的存在，假设海森堡不确定性原理不存在，我们能精确测量出每一个量子的状态，给某个时刻做一个完全精确的快照，也不可能精确推测整个环境的未来：
因为这个环境里已经有了一个能预测未来的机器，而这个机器运行必将套娃式模拟它自己，这需要无穷大的算力。所以我们不能精确预测未来，打破混沌。如果你只是部分模拟，剔除这个机器，那么必将因为误差，精度随时间快速下降。

这也是为什么我们要“模型”。虽然做不到 100%正确，但哪怕只是比抛硬币好一点都会有用。

我认为你的逻辑有误，你是怎么从“不可能算命”，“若能量化，人一生就决定了就算知道结果再怎么努力也无法改变”得到“所以思维意识是不可被量化的”？
“思维”和“人生被决定”完全是两个系统，两个环境。你不能因为我们没法预测未来或者有三体问题就得到结论：天体运行不可预测，牛顿开普勒他们都是错的。


这堵墙的存在和人的思维意识无关，人脑只不过是个生化计算机，架构和实现不同而已。


况且，一定只有生物的思维，才叫思维，一定只有生物的意识，才叫意识吗？

[jony83]

@restkhz 就连纸巾和墨水都能量化，歌曲的声音都能量化。是你对这种叫为艺术的抽象意识无法量化。

[unused]

自由意志存在吗？

[acbingo]

楼主说的一半对一半错吧，我也是认为只要是概率模型的底层原理不变，AI 是永远不会产生思维和意识的。但是，AI 不需要产生意识，就已经足够替代掉很多人的工作了。

完全一样的 Win95 确实做不出来，但是比着葫芦画瓢，让 AI 做一个功能完备，长得差不多的 Win95 应该没什么问题。但是你得得具备能够识别出来 AI 做错或者漏做某个模块的能力，这能力不是每个人都具备的。
不然你对着 AI 说：给我做一个华尔街最牛逼的量化模型出来，但是你又不提供给他数据和算法方向，天王老子来了也做不出来。这不是 AI 不够牛的问题，是你自己的问题

目前 AI 的发展真的可怕，之前也是没有人能意识到只要把模型参数量搞的足够大，LLM 就能涌现出如此惊人的能力。同今年开始很多公司开始研究具身智能，给 AI 配上各种传感器，让 AI 有了感知物理世界的能力后，没准狭义的 AGI 真能到来了

[jony83]

@acbingo 对，说白了就是学习。但无法创新，就好比让它解决人类都无法解决的东西它是做不到的，因为无法验证，说极端点叫它画个外星人，就算画的是真的你也无法验证， 其本质原因在训练的时候根本就没有把未知的东西 token 化给他训练。
我说的是无法解决而不是没有注意到，像前面楼上说的 linux 内核问题，那属于人没有注意到而不是无法解决。

[FireKey]

1.ai 的参数是可以量化的没错,但是参数大到无法计算和无法预测没区别.
2.思维意思不可量化,之前出圈的扫描果蝇神经元进行模拟实验说明思维意识本身也是可以计算的.

[katwalk]

你用未来肯定跌去压她，压不动。房价未来涨跌，没人能 100%肯定。你觉得增城没戏，她觉得三五年内不会大跌，甚至可能修复，你俩都是判断，不是事实。

该谈的是你俩预测错了怎么办。

她选择持有出租，是保留一个三五年内房价修复的机会。机会成本是资金被锁住，可能错过其他投资，还要承担空置、维修和未来继续下跌的风险。租金是这段等待期给你的补偿。问题就是，这点租金补偿，够不够覆盖你们承担的风险和机会成本。

把两套方案放在一起对比。

方案 1 ，继续持有。把账算清楚：每年租金净到手多少，空置、维修要扣多少，三年后如果房价没涨怎么办，跌到什么位置必须重新讨论。

方案 2 ，卖掉换投资。也别只讲止损，说清楚卖完的钱投哪里，预期收益是多少，最大能接受亏多少，如果后面房价反弹了你怎么面对。

都别装预言家。

[jony83]

@FireKey 前后矛盾，无法计算就无法运行这个模型。

[YShell]

我理解，如果 AI 有格物致知的能力，那么 AI 就会产生思维，否则 AI 只是一台能够处理人类已知知识的超级计算机。