V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
RoxyBrowser - 轻盈、安全的指纹浏览器
RoxyBrowser永久提供5个免费窗口额度,不限打开次数,助你轻松管理多个账号,释放增长潜力。
Promoted by RoxyBrowser
ttgo
V2EX  ›  问与答

主流的能用的大语言模型中,速度最快的是哪个?

  •  
  •   ttgo · 2024-03-27 09:24:53 +08:00 · 1431 次点击
    这是一个创建于 574 天前的主题,其中的信息可能已经有所发展或是发生改变。
    4 条回复    2024-03-27 16:33:28 +08:00
    PbCopy111
        1
    PbCopy111  
       2024-03-27 10:52:40 +08:00
    我在用智谱 AI 的
    TimePPT
        2
    TimePPT  
    PRO
       2024-03-27 10:55:50 +08:00
    如果没有国内合规要求,看看 Groq ?
    ohazyi
        3
    ohazyi  
       2024-03-27 11:25:28 +08:00
    开源的,mistral 8x7b 这种基于 moe 的,推理速度快多了
    mumu
        4
    mumu  
       2024-03-27 16:33:28 +08:00
    Groq 确实快,但是想让他回复中文,提示词改得有点蛋疼。
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   1686 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 16:20 · PVG 00:20 · LAX 09:20 · JFK 12:20
    ♥ Do have faith in what you're doing.