公司准备搭建一个本地 deepseek,请问是租阿里云的服务器还是组个机器合适?

195 天前
 yuhuan87692

主要可能需要根据公司现有资料训练一下,然后让他生成文章,回答问题这些。 这些需求的话,32b 模型能满足吗?如果组个机器,双 2080ti 22g 版合适吗,还是需要更好点的配置?

779 次点击
所在节点    程序员
2 条回复
xjh1024
194 天前
macmini m4pro 大内存就够你这个需求了,自己在 已有设备上先试一下 ollama 看多少 b 能满足你的需求
给个参考,m4 + 32g 跑 16b 速度 一个人用可以接受
catamaran
193 天前
阿里云的服务器可不便宜,如果确定要搭建可以考虑自己买台服务器托管到数据中心,特别是偏远地区的数据中心会比较便宜。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1115792

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX