Int100
V2EX  ›  Local LLM

各位大佬,想玩玩 70B 参数规模的大模型,有没有什么推荐的云服务?

  •  2
     
  •   Int100 · Jan 13, 2024 · 2791 views
    This topic created in 1043 days ago, the information mentioned may be changed or developed.
    4 replies  •  2024-01-15 10:39:23 +08:00
    Tubbs
    Tubbs
    Jan 14, 2024 via iPhone❤️1
    1
    qwen-70b 吗 估计可以在某些算力平台租几个小时的多卡机器体验一下
    ShadowPower
    ShadowPower
    Jan 14, 2024 via Android❤️2
    2
    runpod.io
    国内+便宜的有 autodl.com ,但是下模型太慢了,模板环境也很老,比较折腾
    noahliaszn
    noahliaszn
    Jan 14, 2024❤️1
    3
    openroute/replicate/together/anyscale/deepinfa

    上面这几个 sass 服务都提供了开源模型的玩法,都有一定的免费额度
    akin520
    akin520
    Jan 15, 2024
    4
    virtaicloud 还行
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1970 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 09:10 · PVG 17:10 · LAX 01:10 · JFK 04:10
    ♥ Do have faith in what you're doing.