openclaw 的 vllm tool call 调用问题

3 月 10 日
 AFOX

各位使用 vllm 跑本地模型的,有没有碰到 openclaw 调用本地模型时,tool call 存在问题?基本无法执行任何工具。

使用的 qwen 系列模型

1360 次点击
所在节点    OpenClaw
3 条回复
AoEiuV020JP
3 月 10 日
具体是? qwen 应该只有最新的 3.5 支持工具调用,
另外怀疑模型前可以先接个 api 模型试试看正常了再换本地的,
openclaw 权限给了没,
AFOX
3 月 10 日
@AoEiuV020JP

api 模型正常的,我后面改为使用 picoclaw ,让 ai 修改代码支持了 qwen3-30b-a3b 的工具调用。我觉得这个问题很奇怪,开源社区有几篇 issue 提到这个问题,但是没有引起讨论,所以发帖问问。
AFOX
3 月 10 日
@AoEiuV020JP 具体表现为:模型返回的结果是这种结构:<tool_call> tool call 内容 <tool_cal>,我也不知道对不对,我把日志丢给 AI ,让它帮我修了一下就可以用了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1197203

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX