64g 的 mac 真的有能跑能用的 ai 本地大模型么

[followadc]

64g 的 mac 真的有能跑能用的 ai 本地大模型么,Qwen3.8-27B-8bit 都费劲

[Wxh16144]

我的 m4 pro mac mini 同内存，反正是跑不了.. 折腾一圈还是 ds 香

[rockddd]

看用来做什么，编码不行.但是可以跑解禁大模型，例如猎奇了一下如何制作 C4...

[foryou2023]

不能干活，聊天可以。

[x86]

🙅‍♂️不利于涨价卖设备的帖子不要发🐶

[NG6]

我也挺好奇的，真的有人专门买几十 GB 的 Mac 跑本地大模型么，这个级别的内存能跑动的 AI 智力都挺底下的吧，远不如便宜的厂商直供 API

[miniliuke]

@x86 关键 16g 、24g 、32g 的也大幅涨价，搞不懂，低智模型(不能主力写代码的)的 API 比矿泉水还便宜，真的有那么多人需要吗？

[BretTaylor]

主要本地搭建一些无审查的模型。

[idcidc]

只是你刚好有 而且要求不高 可以玩玩 特地去买没必要 还不如用 api 一台机器的钱能用好几年的 api 呢

[Cruzz]

可以猎奇。问点在线模型不能问的。前两天在 x 上看不有个姑娘做个赛博调教工具么。

[Sezxy]

也就跑跑 8B 的小模型用来梵音

[Sezxy]

梵音 =》 翻译

[keyu1103]

64g 挺尴尬的 能用的模型跑不起来，小模型又没必要

[qweruiop]

只能聊天，不能干活，那个 context length 太小了，感觉吹能干活的都是收了广子的。。。

[Hilong]

干不了活。但是一些分类的事情还是能跑。我本地跑了个 2B 的小模型，用来给我的账单做分类打标。速度很快

[dushixiang]

跑不动，我的建议是等

[kuhung]

性价比一般，只能跑垂直模型。不如直接用官方 API ，本地模型一般只适合大企业出于安全和微调考虑，或者极客玩玩罢了。