telaviv 最近的时间轴更新
telaviv

telaviv

V2EX 第 40117 号会员,加入于 2013-06-04 12:01:36 +08:00
telaviv 最近回复了
@1140601003 可以的
能忍没有 bf16 的话,性价比最高的可能是 2080 Ti 22G ,单卡用 unsloth 可以调不少模型,ollama 推理 35B 模型可以 5-10 tokens/s ,双卡会更快些。
买大硬盘推荐先读这个:
https://www.backblaze.com/cloud-storage/resources/hard-drive-test-data

自己的 NAS 用了东芝 MG 的氮气盘,比较安静,还算满意。
2080 Ti 22G ,显存和带宽重要
225 天前
回复了 mikasaCC 创建的主题 硬件 主力机升级建议?或者有没有人打包收
这不挺好的吗,好奇升级的目的
307 天前
回复了 Falls 创建的主题 NAS 百元价位在意隐私 NAS 有什么选择
如果不需要 24*7 开机,自己攒机,装 TrueNAS 。
311 天前
回复了 wesleyqiu 创建的主题 硬件 零刻的小主机有人买过吗
买准系统,自己加内存硬盘。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2335 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 59ms · UTC 10:39 · PVG 18:39 · LAX 03:39 · JFK 06:39
Developed with CodeLauncher
♥ Do have faith in what you're doing.