问一下 dify 接入硅基流动的的 deepseek-v3 的 api 的问题

212 天前
 pol

我使用 dify 查询知识库后,需要用 llm 的 api 来处理查询出来的结果

但我需要处理的数据比较多,目前可以理解 1000 行数据,但目前测下来只能处理 60 多行

遇到的问题是

调用 api 处理,在排除 api 报错超时的情况下,我的 api 回复输出一段时间后就自动停止了,没有任何报错。

我起初以为是 dify 的调用 api 接口超时问题,我现在基本上都改成了 1 个小时,现在还是同样的情况

请问这个是 dify 的问题还是 api 的问题,我在硅基上吗也没找到关于 api 的设置,而且我调用的是免费额度的模型,是不是换付费的 pro 模型会好点

1106 次点击
所在节点    问与答
2 条回复
syaoranex
203 天前
你可以了解一下 max_token 这个概念。
pol
203 天前
@syaoranex max_token 调最大和关掉,效果一样

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1113840

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX