昇腾是目前性价比最高的推理 GPU 吗?

3 天前
 letmatte

对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。

如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺

1663 次点击
所在节点    问与答
8 条回复
suke119
3 天前
昇腾哪里性价比高了 贵又不好用,
SeduceQAQ
3 天前
京东淘宝🧐没记错的话这玩意应该直接找华为吧
letmatte
3 天前
@suke119 有好用的推荐吗
suckinbottle
2 天前
up 忽略了时间成本!
senooo
2 天前
法国记者问黄仁勋: 你会卖芯片给华为吗?!
想到了这个片段....
legendBro
2 天前
你来做运维
yjhatfdu2
2 天前
不如 RTX PRO 6000
lyxxxh2
2 天前
昇腾性价比高??? 我又去了解了下。

https://e.huawei.com/cn/products/computing/ascend/atlas-300-ai
Atlas 300I Pro 推理卡
24gb
算力:140 TOPS INT8,
功耗:72W
传输:204.8 GB/s
淘宝:6k

https://www.nvidia.com/en-gb/data-center/tesla-t4/
tesla-t4
算力:130 INT8 TOPS
功耗:70w
传输:320+ GB/s
淘宝:4.6k

奇怪了,怎么感觉相差不多。
去年我记得昇腾贵的一批。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1214031

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX