AI 技术的边界和 AI 泡沫的崩溃

[shoushen]

1 、AI 技术的边界：

我认为，AI 的技术边界，最核心的一点，就是成本。理论上，随着技术成熟，算力成本应该指数下降，但是，目前来看，模型的训练成本、推理成本不但没有明显下降，反而更高，特别是推理成本，一方面模型本身的推理成本不断升高，其次，应用端越来越依赖上下文，导致单个任务的 token 使用量动辄以百万、千万级，完全吃掉硬件效率提升。 更关键的是，在可预见的时间内，推理成本不会出现明显的下降。 成本对 AI 技术的制约，将成本 AI 技术的推广和使用边界。

2 、AI 泡沫的崩溃：

收益大于成本是商业的底层逻辑。 绝大多数 AI 应用目前 “越用越亏”，无法形成可持续商业模型。 由于成本制约，本质上注定了“这次一样”的结果。

[cmdOptionKana]

你的推理基础：在可预见的时间内，推理成本不会出现明显的下降。

但，这很可能错误。

[zanbujiang]

我的观点是推理成本越来越低，香蕉 2 不是出来半价了吗。
下一步要售卖 IA 助理了。

[xiaowoli]

成本是相对的
1. AI 的成本明显小于你我的成本
2. AI 的 ROI 明显大于你我的 ROI

[seven777]

大模型厂家比我们研究的都透彻, 成本, 政策, 伦理, ROI, Risk 等等

我有个感觉, 普通人被资本和大模型厂家裹挟着, 恐吓着往前走, 实际上的目的可能就是每个大模型厂家都想排在最前, 都想趁早立势, 更简单的是趁早多拿些投资.

[Haku]

同一代的模型成本在降低，新一代的模型成本相比旧的在上升
但，归根结底，它们是在下降的。至于下降以后的底部价格是不是上升那得看统计数据了

[ritziiiiii]

谷歌，微软从轻资产向重资产转型是否正确?
1 ，现在 Ai 服务器商人们只看到设备折旧，却
没想过现在设备发展速度慢了很多很多
（显卡的摩尔定律失效，其他的硬件也基本停滞比如发动机），所以折旧不能按照几年前标准算了。
（不过听说 HBM 显存损坏率很高，
这里存疑。）
2 ，Ai 算法优化空间还非常大，马斯克，还有其他技术人员都有说过这一点，Ai 的算法优化/智力成长也有类似于“摩尔定律”的东西。
不过我对智力成长存疑，支持算法优化，而且算法优化是不会增加设备需求的。

基于以上两点，我认为 Ai 云服务器的逻辑和互联网泡沫的逻辑有点对不上，不知道有没有不同的看法。
附：根据目前互联网软件/服务器厂商的 PE ，泡沫率大概在 10-25%。

如果真有问题现在完全停止建设服务器，大概 3 年就能回本。
还有一件事，目前肉眼可见的是国内几乎所有 Ai 厂都降智了。