跑在 Cerebras 上的 gemma-4-31b 的速度

6 月 30 日
 Livid


大约 800-1800 t/s 。而 5090 大概是 50 t/s 。
2663 次点击
所在节点    Planet
8 条回复
yinyu
6 月 30 日
毕竟是全世界最快的基础设施了
groq 比他还差点
woscaizi
6 月 30 日
单机系统价格:以搭载 WSE-3 芯片的 CS-3 超级计算机 为例,单节点价格通常在 $200 万 至 $300 万 的范围内
这个价格挺贵的
CosmoLau
7 月 1 日
恐怖如斯
crocoBaby
7 月 1 日
第一次看见秒回答的 ai
xing7673
7 月 1 日
终于给免费用户刷新新模型了
可以用
diudiuu
7 月 1 日
速度这么快
nightlight9
7 月 3 日
站长竟然能玩到这种花哨玩意,佩服
germain
7 月 3 日
@nightlight9 公开的呀,只是目前的模型稍滞后: https://cloud.cerebras.ai/

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1223913

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX