简单梳理一下 llm 开发的变和不变？这个对吗。

[YanSeven]

1. 大模型就是 CPU/GPU ，所有的一切都是围绕着 llm 的“智能”来的，所以 llm 大模型的架构、训练、推理的研发和优化是人上人，是软件工程新时代的核中核，一旦 llm 的智能停滞，一切都消散，属于金饭碗。

2. 只要 llm 仍然是基于自然语言的，自然语言就是 0-1 比特流，是和 llm 交互的唯一入口，上下文窗口就相当于内存。内存和上下文窗口自然会不断发展和增长，但是任务和需求也会同步增长，上下文窗口大小和任务大小的矛盾将一直存在。所以，研究上下文工程的是银饭碗，包括压缩，检索，子代理编排等。

3. llm 垂域应用，在有了智能和窗口管理，就可以面向各个垂直领域做改造适配来，这部分和业务以及领域知识强相关，垂域应用想要解决痛点，易于使用而不是流于 PPT 和 demo 还是不容易的，是真正落地的地方。属于铜饭碗。

4. 工具，就算是多模态的大模型也不能直接吐出生成所有模态的数据来作为结果，那就真是造物主了，llm 仍然需要工具来做具体的事情，所以针对各种需求的旧工具改造，新工具创造仍然是持续的需求，但是鉴于工具由传统代码构建，而金饭碗和银饭碗的工作一定程度上已经可以批量生产工具来了，所以单纯的生产各种组件和工具会是一种流水线上的廉价”铁饭碗“。

[privater]

这类问题，丢在这里就是对遍地 chatbot 的不尊重...

[beyondstars]

感觉你这个发到奇思妙想节点更合适 [go/ideas]( https://www.v2ex.com/go/ideas)

[coefu]

没有什么是不变的，都是变化的。没有什么金饭碗，银饭碗。

LLM 的架构和能力一直再提升。

比如 RAG 这种外围工程， 就有一个新的 MSA 架构，可以在 LLM 的 网络架构上重新设计一个模块，性能和功能都比 RAG 这种外围工程要好，以后做 RAG 的就会渐渐消失。

比如 长程记忆，现在也是做外围工程，但是 当 Test-Time Training 这种范式，渐渐成熟之后，性能和功能都优于基于外围框架的 长程记忆，也会渐渐消失。

也就可能 agentic 这块，还能有点存在价值，但是也是越做越少。

现在的情况是，做外围工程的信息比 LLM 原生的进展 慢，有信息差，实际上当 LLM 的原生能力提升之后，会吞噬它周边的一些当前过渡阶段的工程实现。