简单梳理一下 llm 开发的变和不变?这个对吗。

12 小时 6 分钟前
 YanSeven
1. 大模型就是 CPU/GPU ,所有的一切都是围绕着 llm 的“智能”来的,所以 llm 大模型的架构、训练、推理的研发和优化是人上人,是软件工程新时代的核中核,一旦 llm 的智能停滞,一切都消散,属于金饭碗。

2. 只要 llm 仍然是基于自然语言的,自然语言就是 0-1 比特流,是和 llm 交互的唯一入口,上下文窗口就相当于内存。内存和上下文窗口自然会不断发展和增长,但是任务和需求也会同步增长,上下文窗口大小和任务大小的矛盾将一直存在。所以,研究上下文工程的是银饭碗,包括压缩,检索,子代理编排等。

3. llm 垂域应用,在有了智能和窗口管理,就可以面向各个垂直领域做改造适配来,这部分和业务以及领域知识强相关,垂域应用想要解决痛点,易于使用而不是流于 PPT 和 demo 还是不容易的,是真正落地的地方。属于铜饭碗。

4. 工具,就算是多模态的大模型也不能直接吐出生成所有模态的数据来作为结果,那就真是造物主了,llm 仍然需要工具来做具体的事情,所以针对各种需求的旧工具改造,新工具创造仍然是持续的需求,但是鉴于工具由传统代码构建,而金饭碗和银饭碗的工作一定程度上已经可以批量生产工具来了,所以单纯的生产各种组件和工具会是一种流水线上的廉价”铁饭碗“。
439 次点击
所在节点    程序员
2 条回复
privater
8 小时 19 分钟前
这类问题,丢在这里就是对遍地 chatbot 的不尊重...
beyondstars
6 小时 13 分钟前
感觉你这个发到奇思妙想节点更合适 [go/ideas]( https://www.v2ex.com/go/ideas)

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1202067

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX