frankyzf
V2EX  ›  Local LLM

有支持 6000 Ada 使用 deepseek v4 flash 推理 的框架吗

  •  
  •   frankyzf · 5h 29m ago · 529 views

    显存是够的(多卡),但架构有限制( SM_89 )

    4 replies    2026-06-19 14:19:30 +08:00
    wwhc
        1
    wwhc  
       4h 12m ago
    等 llama.cpp 合并 Deepseek v4 的补丁到主线吧
    ETiV
        2
    ETiV  
       4h 4m ago via iPhone
    BaiLinfeng
        3
    BaiLinfeng  
       3h 13m ago
    还是那句话 Deepseek 被神话了,我感觉也就那样
    gpt5
        4
    gpt5  
       2h 2m ago
    公司有几张这卡,显存是可以,但架不住慢啊。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2623 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 08:21 · PVG 16:21 · LAX 01:21 · JFK 04:21
    ♥ Do have faith in what you're doing.