pigzilla

注释是存在.DS_Store 文件中的。检查下看看是否这个文件丢失或者损坏或者什么别的问题。

铜币已送给有建设意义回复。谢谢各位。

@GGMM #28 感谢。这个的确和我自己找的信息一致。

@jamos #30 能详细说说吗？ DS-R1 14b 的容量我看 ollama library 上不是 9GB ，足够载入显存吗？你跑不起来是显存不够还是速度太慢还是别的问题？不过这对我也不是啥问题，14b 不行可以拿 8b 、7b 的测试。

@Foxkeh #14
@lneoi #15

感谢建议。不过我们需要测试和调试底层驱动的东西，所以云服务不行。

另外，我发现大部分回复者都挺搞笑，属于一班只懂个皮毛就尾巴翘上天的：

第一阅读能力不行：我已经写的很清楚了，“主要是测试”，而不是跑生产应用；“大模型也会试试”，而不是专跑大模型。

第二对 AI 的理解极为偏执：以为 AI==LLM ，以为 AI==上层的应用。实际上 AI 的应用类型极多，涉及到的也是整个系统——硬件+OS+驱动+系统库+应用库+AI 框架+应用...，训练和推理场景也有很大差别。不是所有 AI 人的工作都是搞个上层应用包装个 LLM 来对话。在你们心里面，底层的那些东西都是货架上刷新出来的么？

第三以为所有东西都要靠堆钱来解决。实际上 2000 以内 N 卡 3060 12G 可跑 DS-R1 14b(9GB)，用来测试绰绰有余。我们还要测 Intel Arc A770 （一样 2000 以内），同样也是为了了解不同方案的表现和性价比。更不用说清华最近那个新的突破了（虽然还是要 24G 显存，但谁说未来不能更小？）