你们会骂 AI 吗

14 小时 15 分钟前
 Ayanokouji
遇到需求理解错误跑偏,牛头不对马嘴的时候,我都是重开一个回话,重新整理提示词。和 AI 对骂又解决不了问题。
5090 次点击
所在节点    程序员
83 条回复
laminux29
3 小时 34 分钟前
哎,还是专业人士来科普一下正确答案吧。

1.显存与内存很贵,AI 服务商为了降本,会严格限制 AI 上下文的窗口,以及 AI 思考的显存与内存用量。

2.不同问题,对显存与内存的用量,会有指数级区别。比如你问一下明天的天气情况,以及全世界所有公司最近 5 年与最近 20 年的经济情况对比。即使完全不限制显存与内存用量,后面这个问题也有可能会导致整个计算集群的显存与内存都不够用。

3.不同的思考策略,对显存与内存的用量,也会有指数级区别。比如问题是怎样减肥,但询问对象是你的同事对比医院营养科,两者回答问题的思考策略,对算力与存储的消耗是完全不同的。

4.当你的问题,导致 AI 爆显存爆内存后,AI 就会开始胡言乱语、忘记前文、生成不正确的答案了。
mintongcn
33 分钟前
骂… 太蠢了
dawn009
3 分钟前
有些人的骂,是提示词的一部分;
有些人的骂,是情绪的一部分。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1236083

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX