ttgo
V2EX  ›  问与答

主流的能用的大语言模型中,速度最快的是哪个?

  •  
  •   ttgo · Mar 27, 2024 · 2016 views
    This topic created in 962 days ago, the information mentioned may be changed or developed.
    4 replies  •  2024-03-27 16:33:28 +08:00
    PbCopy111
    PbCopy111
    Mar 27, 2024
    1
    我在用智谱 AI 的
    TimePPT
    TimePPT
    Mar 27, 2024
    2
    如果没有国内合规要求,看看 Groq ?
    ohazyi
    ohazyi
    Mar 27, 2024
    3
    开源的,mistral 8x7b 这种基于 moe 的,推理速度快多了
    mumu
    mumu
    Mar 27, 2024
    4
    Groq 确实快,但是想让他回复中文,提示词改得有点蛋疼。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1739 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 01:01 · PVG 09:01 · LAX 17:01 · JFK 20:01
    ♥ Do have faith in what you're doing.