用 Ollama 部署了一个我之前没听过的大模型 gpt-oss:120b, 发现速度还挺快, 不知道能不能用在 openclaw 上.然后跟 Qwen 做了一下生成速度对比, 可能不太客观.

[JoeJoeJoe]

顺便贴一下从网上随便找了一个测试 Token 生成速度的代码跑了下, 测试结果如下

[zenfsharp]

我勒个槽 120B ，我只敢部署 20B 的。
大概半年前 OpenAI 丢出来的开源模型，我试了 20B 的大概才 GPT-4mini 的水平，远不如如今线上小模型。

[niboy]

好羡慕，电脑都啥配置？

[liu731]

我 4090+96GB RAM 都跑不起来，可以想象 OP 的配置

[JoeJoeJoe]

@zenfsharp 主要是没听说过这个都, 看了下下载量还很高

@niboy
@liu731 Apple M4 Max 128G

[magiccode]

@JoeJoeJoe 这设备好顶，公司给配的么?

[bitkuang]

这模型在海外评价挺高的

[crocoBaby]

这个玩小龙虾足够了

[JoeJoeJoe]

@magiccode 必然, 家里还备着一台 21 年的 MBP 和 一台顶配 Mini, 公司这台装着 Rustdesk, 从此过上了不背双肩包的日子.

@bitkuang 真第一次听说, 我体验一下看看

@crocoBaby 今天准备尝试一下

[Solix]

CloseAI 最近几年出的唯一的 Open 模型，当然火了，大家都用它做翻译

[crocoBaby]

@JoeJoeJoe 期待测试 7B 和 13B 这两个主流本地部署大模型在 openClaw 上面的表现

[ovovovovo]

@crocoBaby #10 3080 10g, qwen3 7b/14b 我本地试了试，context 32k ，出现自己找不到 skills 以及误以为自己没有本地文件读取权限的症状。必须一字一句引导使用 skills 才行

[cyp0633]

因为 gpt-oss 有原生 mxfp4 吧

[Hansah]

你用 qwen 3.5 9B 或者 24B 可能都比他厉害

[Hilong]

@crocoBaby #10 我测试过，m1 max 64g+ 1T 的 mac studio ，4b 以上的跑龙虾都不太行，因为龙虾的上下文信息窗口太大了。本地模型跑起来很吃力。

[crocoBaby]

@ovovovovo 感谢测试，也就是说不能用了

[crocoBaby]

@Hilong 感谢测试，果然还得是烧 token

[justfindu]

Antigravity 里面不就有么

[JoeJoeJoe]

@Solix 哈哈哈哈 我也尝试一波
@cyp0633 处理速度确实快很多
@Hansah 容我试验一下!

[JoeJoeJoe]

@justfindu 😂没用过 Antigravity

[timespy]

我有个 512G 的 mac ，有更好的模型推荐吗，想玩玩