本地部署 AI 的意义在哪里？涉密？

[pdog18]

DeepSeek 出来以后我个人在互联网上总是会刷到一些本地部署的相关内容，不明白意义何在

[jchnxu]

@germain 这种东西感觉是重灾区。。。我看到过那种除了领导来视察没人会用的

[levn]

1 内容审查
2 保密
3 速度与延迟
4 可以自定义化设定，可以运行自定义的模型、冷门的模型或者微调模型
5 不会因为在线模型换代而破坏稳定性和一致性

[MYDB]

在线满血版都不能满足我的正确率，更别提本地部署了，非热门领域现阶段还是自己查资料靠谱

[DigitaIOcean]

形式保密不一定保密
但形式不保密则一定不保密

[ShadowPower]

我猜 OP 想问的是：
个人本地部署 AI 的意义在哪里

其实真正的答案是：玩

对于 deepseek 这样的模型，有个好玩的地方。本地部署的话可以在任何位置继续生成，所以有时候可以把思维过程给改了，手动结束思考，然后看看它会回答什么。

[label]

@wolffcat #4 水浅王八多, 遍地是大哥

[pkoukk]

楼上的估计没怎么部署过..
整过 sd 和 llm 的告诉你，为了 GHS ！

[spacebound]

今年政企行业相关软件开发都在削尖了脑袋搞 DeepSeek 接入，都要体现 AI 的能力。
那好了，遇到的第一个问题就是能不能本地化部署、能不能上信创环境。

[EndlessMemory]

不用付钱

[ryan4290]

政务还是很需要这个的。

[Daybyedream]

本地

[zhoucheng]

就个人来说,要想本地部署的 ai 有不错的性能,需要一个顶级配置的电脑,或者高内存版 macbook pro,不然还是老实用线上的吧

[Hookery]

军工单位涉密。连外网都连不了。

[Sting1226]

本地部署主要就是可控。

[ccloving]

@LanhuaMa 爱快还有透明代理？

[yianing]

@asdjgfr https://www.bilibili.com/video/BV1YEPvepEvf/ 速度极慢，2t/s

[wolffcat]

在座的评论区哪一个是涉密单位，哪一个是科研院所，哪一个是集团要求，哪一个批项目经费了？还有提到安全人员避免背锅，哪一个是安全人员，哪一个背了锅？
“安全可控”不过就是意淫一番。
部署有甲方有供应商，用得个人吗？