未来大模型硬件成本下降 5-10 倍，我们的未来会是什么样的？

[LeeReamond]

说实话最近工作没有太多需求，空下一些时间深夜做一些无所谓的瞎想。

众所周知的是，2023 年 gpt3 刚出来的时候大家可不像今天这么感觉大模型能完美替代几乎所有程序员工作。而 2023 年到现在也不过 3 年。那么，如果再把时间维度拉长到 3-5 年，我们的未来会是什么形态？

已知前提：

1. 模型的提升本质上实际上是信息密度提升，存在边际效应，但是从 2026 回看过去三年，已经提升很多，未来仍有一定提升空间。
2. nvdia 的硬件是存在高溢价的，仅从成熟制程集成电路技术的角度来说计算成本没有现在这么贵。

与大模型聊天后做出的推断性判断：

1. 已知过去三年间低端模型（个人用户的消费级硬件有潜在希望能运行的模型，例如 64B 及以下模型）的部署成本大概降低了 1000 倍。
2. 高端模型（ 1-1.5T 参数）所依赖的部署设备的成本，如果能够去掉类似 cuda 护城河和 nv 溢价的话，未来也不会下降太多，但是下降 5 倍是可能的（也就是说类似于企业部署满血 deepseek v4 pro ，目前的成本比如是 300 万一台机器的话，未来理想情况下可能降低至 60 万，应该不会再低了）
3. 目前看来可能的提升模型能力的方向，例如多 agent 任务流，消耗 token 数量大概是普通对话的 10 倍左右。
4. 以当下的重度 LLM 用户的使用习惯来看（考虑人机交互中人类心智端的极限），取决于任务的不同，每天生成 token 数大概在 1M-100M 之间。

那么综合推断下来 3-5 年后的未来会存在这样一批人：

1. 每天使用大模型综合 token 输出数量在 10M-1000M 之间。
2. 使用多 agent 执行各种复杂任务
3. 使用次旗舰级别开源模型，能力超过或与当下的旗舰模型持平（假设与 Fable5 持平）
4. 每 1Mtoken 的输出成本，按现在的购买力计算，约与当下的 deepseek 官方 api 价格持平（ 3-6 元每 M ）
5. 也就是未来会存在一些每天花费大约一百-几百到 1-2 千元 token 成本，生产效率约等于无限制使用现在的 claude Fable5 模型进行各类工作（很可能是多模态工作）的这么一些人。

所以未来编程行业会是什么样呢？未来各行各业会是什么样呢？大厂工作的人我感觉未来 5 年应该都能做到上述推断的程度，大厂的生产力会前所未有的蓬勃，个人工作者市场应该会完全消失。其他所有从事文创、生产类工作的工作者，比如在起点写小说的，可能会有 fable5 帮忙连续不断地 24 小时推演。

[tsja]

我也想过和楼主一样的问题，gpt4 出来的时候，觉得如果这样的模型能免费就能大幅提升我的开发效率；但是现在随便一个开源的量化模型都能比 gpt4 强千倍；几乎白菜价的 DeepSeek V4 也能达到御三家的七八成水平；但是我还是再给 ChatGPT Claude 付费。再结合前面几楼也评价了，CPU 性能、内存闪存的性能容量提升，总是会被新技术新需求填满。我完全不敢说国产的几家模型就够普通人使用了，也许总有一天开源的 Qwen 6 已经达到了 Fable5 的水平，但是国外御三家又是一个新的高度，DeepSeek 的低价也卷到另一个深度，一切的代价都是对硬件的极致需求。现在老黄的硬件已经不是基于性能和规模定价，而是基于能跑什么样的模型定价，大概率未来也一样

[paopjian]

手机便宜了 bb 机就被淘汰了, 以前电话秘书都是新奇玩意, 现在 siri 小爱都是小傻瓜了, 等大模型解决了性能 记忆 幻觉问题, 就能取代很多岗位和 app 了, 你以后也不会需要记账 app 这种玩意, 因为内置 ai 都能帮你自动记账了. 你也不会有自己写代码造 app 的想法, 因为 AI 甚至能直出 HTML 给你做 demo, 人人都能复制页面. 仅仅是 seed2.0 这种 aigc 能力, 都能简单实现一些超高预算才能实现的特效, 未来只能靠想象力制造爆款了.
信息渠道被大厂控制, 个人想要爆火只能靠各种噱头了, 大厂想封杀你轻而易举, 普通开发者只能在夹缝里生存了

[my101du]

人类大脑的想象力、创造力、精力已经到头了。

接下来人工智能自己创作的东西，如果去探究其内部的形成过程可能我们已经看不懂了，但是它还是会用一部分算力输出人类能看明白的某种形式（图、文、音），剩下的算力鬼知道在干什么。

它能兼容我们，但它也在飞速进化成另一个物种。

AI 大帝下令：把整个地球有历史以来的所有信息进行完整全面的一次的排列组合，然后 一 一验证。
那闪烁的灯光，是新生地球的脉搏。

[AIgogo]

大模型炼丹已经卷不出来啥了，iphone14 的能力够用了，有了 iphone17 也改变不了多少

[LeeReamond]

@msg7086 我觉得 @ntdll 应该是软件工程师，可能不太熟悉数字电路设计相关内容，我倒也觉得芯片设计算是相对“简单”的工作了。

一个问题是类似于物理化学工艺，那么一个有兴趣的推演就是，例如三年后，当现在 Fable5 级别的智力可以普及到 300B 左右的模型上（假设是这样），并且算力极大充裕可以给每个研究员配备充足的 agent ，那么是否意味着研究工艺的实验室可以有比现在蓬勃 [两个] 数量级的生产力尝试各种工艺的潜在可能，甚至让 AI 自行尝试各种有价值的路线，推动工艺快速迭代。

还是说这种实验必须在具身人工智能实现后才能实现。如果是后者的话那我觉得短期内不会出现在工艺优化这方面的普及。



@lululau 领会精神


@fredweili 对于大学的推演我倒是相当确定，大学不能教授知识（现在其实也不能），但还是能给人分三六九等的。学历的重要性会上升而不是下降。

[msg7086]

@LeeReamond 现在的软件开发效率突飞猛进就是 Agent 的出现（ Cline/Roo/Codex 等）。不难想象再过不久就会有可以简单对接 LLM 的硬件级 Agent 了，比如显微镜或者机械手臂，直连 Agent ，那以后让 AI 来做实验也不是痴人说梦了。