本地部署 AI 的意义在哪里？涉密？

[pdog18]

DeepSeek 出来以后我个人在互联网上总是会刷到一些本地部署的相关内容，不明白意义何在

[Librola]

以前本地部署是为了搞涩涩，现在 grok 出来以后涩涩随便写，就再也没有自己部署过了。

[duanxianze]

大公司和政府才需要，就是为了不连外网

[psllll]

因为 服务器繁忙，请稍后再试

[aliveyang]

因为酷

[lovedebug]

意义在于我实现了本地部署 AI ，然后继续用 API

[zy5a59]

现在大部分本地部署 DeepSeek 的，都是引流然后做知识付费的，本质就是蹭一波 DeepSeek 的流量。

[LaTero]

有些企业有需求，但是那些视频都是营销蹭流量的，忽略即可。它们练 DeepSeek R1 到底有多大都不知道，随便弄个 14B 的蒸馏小模型糊弄一下，反正目标观众也不会真的去试，毕竟他们看这种视频只是为了情绪价值，顺便骂一下英伟达。

[laydown]

等待未来。

[dddd1919]

如果将来开源 AI 能支持多模态，就可以用盘里的老师们制作出更适合自己的学习资料，这个公网 AI 是绝对没法办到的

[lthon]

自定义也可以算一个理由吧

[xvan]

toG 都得私有化部署

[tsja]

应付领导对 DeepSeek 的喜爱

[nomagick]

本地运行的模型，不受 《生成式人工智能服务管理暂行办法》 的约束

[wangyzj]

数据安全是很重要的一方面

[Eagleyes]

自建 NAS 的意义在哪里？

本地存储好处是，你永远不用担心资源被下架。

[Baymaxbowen]

我们的系统客户都是银行，全部都是内部系统，这种只能通过本地部署来实现

[fivee]

现阶段一个明显的意义就是能够让地方政府或者事业单位合理花钱

[lpxxn]

让我的 gpu 跑满，心里不是很爽的

[germain]

很多地级政府都在推本地部署“一体机”，最多跑个 30B 的模型，采购费用大家都懂。

[edony]

2B 场景下，安全问题也是重要的考虑之一。

对企业而言，最重要的是内部数据，你永远无法保证外部的服务会不会保存和利用你的数据。例如，你怎么确定豆包/kimi/千问/DS 等等不会根据你提交的“我出生 xxxx 年 xx 月 xx 日 xx 时 xx 分 xx 秒，身份证号是 yyyyyyyy ，帮我算一下我 2025 的运势”来定向推送广告呢？更何况你给大模型的还有 fine-tune 的时候那些重要的领域数据甚至机密数据。所以企业的做法宁可错杀也不放过 —— 所有的都要掌握在自己手里宁可花点钱自己部署。