mingtdlb
V2EX  ›  问与答

gemma-4-31B-it 和 Qwen3.8-27B 哪个强?

  •  
  •   mingtdlb · 6h 56m ago · 792 views

    有深度体验过的兄弟吗

    5 replies    2026-08-20 12:45:50 +08:00
    awah
        1
    awah  
       6h 55m ago
    体验是 Gemma 没一个打得过 Qwen
    Meteora626
        2
    Meteora626  
       6h 39m ago
    qwen
    Tokin
        3
    Tokin  
       5h 23m ago
    gemma 都没热度。。。
    ChoiYoonJung
        4
    ChoiYoonJung  
       5h 18m ago
    没用过 gemma-4-31B-it ,用的 gemma-4-26b-a4b-qat ,都是 4bit 版本,在我的 m3max 64gb 上,gemma-4 大概 80tokens/s ,qwen3.8 大概 18tokens/s ,先不谈质量,qwen3.8 这个速度基本属于不可用,gemma-4 的 a4b 确实速度会快很多,基本可用,但是也还是不如 api ,只能本地部署的话我会用 gemma-4 的 a4b 版本
    JerningChan
        5
    JerningChan  
       3h 41m ago
    @ChoiYoonJung 你要知道那个是 a4b ,每次推理只有 4b 的参数量,qwen3.8-27b ,是每次推理是 27b 的参数量。。。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5579 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 08:26 · PVG 16:26 · LAX 01:26 · JFK 04:26
    ♥ Do have faith in what you're doing.