现在哪里还能花最便宜的方式买到正品的 mac(mini|studio) 64GB 的装备?

9 小时 23 分钟前
 kisshere
跑本地大模型用,不想要二手
658 次点击
所在节点    Apple
8 条回复
CNYoki
9 小时 15 分钟前
Apple 直营店可以买到官翻版
hello365
8 小时 59 分钟前
能跑到多大的模型多少 token/s ?
sentinelK
7 小时 46 分钟前
@hello365 目前的话,qwen3.6-27B 4bit 量化的 mlx 版本模型,M5 MAX 128GB 的 macbookpro ,decode 输出可以跑到 30t/s ,prefill 输入可以跑到 700t/s

如果是 moe 模型,比如 qwen3.6-35B-A3B ,能到 100t/s 的输出。
my3157
6 小时 58 分钟前
实测 M2 Max 64G qwen3.6-35B-A3B nvfp4 ,ollama 大概能跑 70+t/s
SteveRogers
6 小时 37 分钟前
@sentinelK 买 mac studio 96g 可以满血跑 qwen3.6 吗
sentinelK
5 小时 53 分钟前
@SteveRogers 要等 M5 Max 版本的 studio 出来才行。M4 MAX 的性能比这代低很多,另外,mac 的统一内存是够放满血版本(非量化)的 qwen3.6 27B 的,但是因为内存带宽,所以性能很差。
kurisu
4 小时 29 分钟前
@my3157 用在什么场景呀,也想跑一个。但是没想好能用在哪。
my3157
3 小时 55 分钟前
@kurisu 拆解小说,把小说拆解成类似剧本的形式

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1211073

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX