为了增大上下文窗口,我在 config.toml 配置文件里加了以下配置:
model_context_window = 10000000
[features.context_management]
experimental_mode = true
但是已用上下文达到 200K 左右的时候就容易出现“Selected model is at capacity. Please try a different model.”提示(过一会儿可能会自动恢复,也可能不会,需要手动点重试),是配置的问题还是模型的问题?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.