MBP M4Max 跑一下大模型风扇就响了?

65 天前
 walkon
刚买的 MBP 16 寸 m4max 64G 2TB ,深夜跑了一下大模型 `ollama run --verbose deepseek-r1:8b "9.11 和 9.8 ,比较这两个数字的大小"`,风扇的噪音就出来了。从 Fan Control 里看转速也不高,才 1300 多。这正常吗?有没有买了 M4 MAX 的来说说?
2592 次点击
所在节点    MacBook Pro
11 条回复
ericguo
65 天前
正常,不过建议用用 LM Studio ,跑 mlx 格式的模型,dwq 量化的就很好。
walkon
65 天前
@ericguo 好吧,这个风扇噪音有点预期之外。待会我试试 LM Studio 。我之前试了 70B 的 DeepSeek ,才 10 tokens/s ,CPU/GPU 已经干到 100°C 了,风扇到了 3000 多转,键盘都烫得不行,本地跑大模型有点受罪啊。
zsuper
65 天前
@walkon 建议别搞,没必要因小失大
niubilewodev
65 天前
Mac 能本地跑大模型,但 token 速度和 prefill 时间都很烂。
而且有一定概率高负载键盘位置滋滋滋的响。
lpxxn
65 天前
我的 mini pro 48G 内存跑一些 32b 的才会风扇噪音
ericguo
65 天前
@walkon https://huggingface.co/mlx-community/Qwen3-30B-A3B-4bit-DWQ 这个模型推荐

另外的确随便跑跑得了,真的干活还是得调用大模型,本地跑的意义真心不大。
walkon
64 天前
@lpxxn 主要是这风扇转速也不高,搞不懂哪来的噪音。也就晚上夜深人静时才感觉得到。
walkon
64 天前
@niubilewodev 感觉就是这个声音,是风扇声么?
GeekGuru
63 天前
跑大模型响很正常呀,瞬间功耗估计都破百瓦了。
maix27
54 天前
@walkon 不是风扇声,是高转速下的电感/电容啸叫。
ota
10 天前
跑本地主要是部署流程的 devops ,意义不大。而且真金白银买硬件,还只能够的上能 run 的程度,根本无任何调试的意义。我直接放弃了。因为用过几天 m3max128g 的。现在跑所谓的“本地大模型”,都是用 pay as you go 的 cloud 。调试完就快照关闭机器。一次也花不了多少钱,而且很多可以导出 pod 平移其他 k8s 。真没必要本地化,不管是学习还是开发。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1145198

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX