1m 上下文感觉面对 agent 还是少了?预测下接下来哪家会先出真*2m 上下文?

2 小时 27 分钟前
 lynn1su
不是那种跑 30%就开始降性能的那种模型
633 次点击
所在节点    程序员
11 条回复
xiaomushen
2 小时 23 分钟前
压缩一下呗,带着那么多垃圾历史信息没意义
lynn1su
2 小时 22 分钟前
@xiaomushen #1 自动压缩感觉会损失很多细节。期待真 2m 上下文模型
SHIINASAMA
2 小时 14 分钟前
我觉得目前这个上下文大小已经比较甜点了,有用的信息提到项目文档或者个人知识库就好
ktyang
2 小时 11 分钟前
1M 的时候不担心 token 消耗量么? 2M 那更不敢想了
lynn1su
2 小时 5 分钟前
@ktyang #4 公司给买了
hrapunzel
2 小时 4 分钟前
上下文太多 记忆力稀释怎么办
lynn1su
1 小时 59 分钟前
@hrapunzel #6 所以我说真*2m 上下文,不会因为长上下文稀释降低性能的
getadoggie
1 小时 19 分钟前
能不能引入一种上下文提炼组件,代替压缩呢?自动判断哪些有价值,哪些没有的那种 我觉得比光加要好
mingtdlb
1 小时 15 分钟前
1M 上下文有些模型都丢信息。支持更大的上下文长度 价值不大,压缩要做好 能提取重要的信息,1M 往上 显存兜不住
m0mo
1 小时 12 分钟前
@lynn1su 请教下现在真 1m 上下文的有哪些
Dream4U
1 小时 11 分钟前
稀释问题解决不了,再长也没用

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1235921

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX