任务中途切换模型时,需要提示模型理解上下文吗?

3 月 15 日
 zhangsimon

使用 antigravity 因为模型冷却时间必须中途进行更换 我在更换到其他模型时 需要给新的模型说下上下文吗? 还是他自己会去读取和理解?

如果每换一次模型,模型会重新读取和理解上下文 那是不是频繁切换模型,token 消耗会比一个模型更多?

1306 次点击
所在节点    ☕Vibe Coding🤖
4 条回复
MajestySolor
3 月 15 日
我是这样理解的,对话中切换模型会严重降智,就是因为缺少之前的上下文情景🤣
kulove
3 月 15 日
不用 目前模型本身不存储数据 每次调用都是把完整上下文传过去的
Tink
3 月 15 日
不需要,但是新开 session 肯定是最好把之前上下文告诉他
Tink
3 月 15 日
但是频繁切换模型一定会多消耗 tokens ,因为缓存命中会很低

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1198341

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX