本地部署 AI 的意义在哪里？涉密？

[pdog18]

DeepSeek 出来以后我个人在互联网上总是会刷到一些本地部署的相关内容，不明白意义何在

[usVexMownCzar]

不联网，针对性优化。涉密是其中一个考虑。

[wolffcat]

本质就是和极客一样，明知道蒸馏模型还跑不快最多陪聊机器人还要折腾一番，我想起来搞爱快的那帮人往往没有具体实际的需求。

[sujin190]

目前来看能多花钱就是最大意义，后面说不好

[wolffcat]

庙小妖风大，池浅王八多。

[whileFalse]

教他涩涩

[07H56wMvTJUc4rcf]

解除封印

[mumbler]

只要真想好好用 AI ，必然会遇到数据安全问题，特别是企业应用

严格说 cursor 这种工具有很大安全隐患，内部 api ，算法，key ，数据全要给云端大模型看，不能依赖商业公司自律，迟早需要用本地部署模型替代的

[rqYzyAced2NbD8fw]

@wolffcat #2 爱快可太有具体需求了，我家软路由挂了全家网络都难受（透明代理）

[NoOneNoBody]

1. 涉密，假如贵司所有工作报告都经 AI 润色，贵司所有项目的文档都经 AI 管理方便查阅
2. 专用，贵司的项目有垂直深度，需要 AI 适应很多特殊领域术语和文档
3. 自主，本地 AI 是自己控制，联网则受制于人

[wolffcat]

@LanhuaMa 好吧，我恩山夸张的见得多了，才几十平米搞光纤传输无线 AP ，爱快这边图形化连命令行都没有（刻板影响），我亲身经历在学生时代有人在选修课发群里炫耀一个老旧电脑 300 瓦装爱快，这个 b 恶心坏我了。

[Fule]

我想看看我的显卡显存和 GPU 全部吃满的样子……让我觉得我这大价钱没白花……

[wolffcat]

@Fule 哈哈哈，我觉得可以去矿场锻炼一番。

[hafuhafu]

那种视频是在纯粹在借热度引流吸引人。

不过本地部署确实是个很实用的需求，只不过目前对于个人或一般企业而言部署一个好用的成本太高了。参数低的没啥用，参数高的又部署不起。

场景也挺多的，企业涉密是一方面。

对于个人而言还有各种敏感词审查以及隐私方面的问题，以及官方的各种限制。

我之前有弄个联网搜索的工作流，我就不敢把搜索结果丢国内的 API ，太危险了...像 Github 上有一些专注于各种国内敏感词的仓库的 SEO 还特别高。被封号了还是小事。丢本地 LLM 就不用考虑这些了。

[billytom]

1 、国内是最不安全的，那几个公司都有把你数据当成他们数据的思想
2 、国外稍微安全些，但就是怕那天突然全面东西分离突然就失联了
=
自己建对于稳定的业务长远的考虑大的，特别是 guojia 级的企业，是必须的

[plasticman64]

已经有部分地方公安在本地部署 Deepseek 了

[julyclyde]

说好听点叫练手
说不好听就是自主知识产权

[gpt5]

很多云服务比如 azure 也提供本地部署，不光是 ai 。

[iorilu]

大公司很多服务都要求本地部署的, 随便啥东西, 更别说什么银行等国企了

[momo1pm]

你先定义下部署啥样的，不是满血的就别说了

[paopjian]

核心是卖课啊, 现在视频平台什么火了先想想他们是不是要卖课了, 要不然就是引流, 企业真需要自己部署的早去买服务或者调研了, 我就见过一个套皮 dify 的, 号称全流程自研, 结果买个云服务两毛钱都抠搜