各位大佬，想玩玩 70B 参数规模的大模型，有没有什么推荐的云服务？

This topic created in 879 days ago, the information mentioned may be changed or developed.

4 replies • 2024-01-15 10:39:23 +08:00

Tubbs

Jan 14, 2024 via iPhone

qwen-70b 吗估计可以在某些算力平台租几个小时的多卡机器体验一下

ShadowPower

Jan 14, 2024 via Android

runpod.io
国内+便宜的有 autodl.com ，但是下模型太慢了，模板环境也很老，比较折腾

noahliaszn

Jan 14, 2024

openroute/replicate/together/anyscale/deepinfa

上面这几个 sass 服务都提供了开源模型的玩法,都有一定的免费额度

akin520

Jan 15, 2024

virtaicloud 还行