大模型的输入大小限制是网页 chat 才有?

9 小时 41 分钟前
 mingtdlb

我往 deepseek v4 Pro 、mimo v2.5 Pro 贴了个日志,提示超了。

mimo

ds

qwen3.7 MAX 、doubao 2.1 turbo 没问题

用 Token 计算器算了下,字符不到 11 万、token 不到 4 万

这个限制是网页 chat 有还是模型本身就有,他们各自是多少,哪里能看呀

317 次点击
所在节点    问与答
2 条回复
Sezxy
9 小时 23 分钟前
网页本来就是免费的,不限制下成本太高
ztm0929
7 小时 3 分钟前
@mingtdlb 模型本身的上下文长度非常大( DeepSeek 已经支持 1M 了)

网页对话单次发送的限制从你图里推算来看就是 32K 喽(你发送的是 38K ,提示超出约 4%)

模型本身单次接收的限制是在 max_tokens 里设置的,如果不限制,通常就是上下文本身,具体要看各模型文档。
例如: https://api-docs.deepseek.com/zh-cn/api/create-chat-completion

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1223182

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX