你们公司上本地 DeepSeek 了吗？

[ccloving]

好奇这么多公司搞大模型私有化部署，都用来干啥呢？感觉也就个知识库问答，没有太大价值。

[supuwoerc]

上了 v3,r1 还有蒸馏的小模型，一部分给内部部门在 dify 放工作流做问答，一部分给开发用 roo code 和 continue 。

没啥特别大的价值，但是自己部署的不卡，而且领导不担心内部资料流出。

[Mandyer]

@supuwoerc 请问机器配置是什么样子的，多少参数的模型？

[supuwoerc]

@Mandyer
DeepSeek-R1：总参数 671B, 激活 37B,16 张 H800 一个实例
DeepSeek-R1-Distill-Qwen-32B：总参数 32B ，激活 32B ，1 张卡一个实例

[ccloving]

@supuwoerc 同感，只是做个问答，感觉真没必要花这么多钱。