问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
1
kirbyzhu 1h 49m ago via iPhone
甲骨文
|
2
mnoputd20adfadf3 1h 38m ago
Digitalocean Droplet
|
3
sonaxyjh 1h 22m ago
零刻 ME Mini,端侧模型还是太慢了用 API 吧
|
4
adz1181014499 OP 我去楼上都太专业了
瑟瑟发抖 |
5
zuosiruan 52 mins ago via iPhone
@adz1181014499 你都要上 mac 了你最专业
|
6
Eleutherios 34 mins ago via iPhone
@sonaxyjh 我觉得 Mac M5 16G/32G 还是能在本地跑跑 ASR, vector embedding 之类的模型的。不过真的要玩还是得 Max+48G 起步
|
7
liuzimin 31 mins ago via Android
我手上的 mac 跟你配置差不多,我跑个 Openclaw+QWen3.5:4b 都经常卡死,正常回答问题最快也要半分钟到一分钟。
|
8
killgfat 30 mins ago via Android
为了 hermes 专门花钱买一台 Mac 吗,我都是直接拿一个 2c4g 的虚拟机跑的
|
9
sonaxyjh 24 mins ago
@Eleutherios 如果能接受吐字速度的话本地跑 MoE 当然可以,如果是 embedding 我这 N200 cpu 都能跑,但自己维护太麻烦了,用免费档的 mem0
|