感觉现在的 AI LLM 趋势对苹果而言就是死局

[terrysnake]

1. 众所周知苹果最注重隐私保护，也宣传了很多年。
2. 所以苹果只能做本地大模型。
3. 众所周知模型参数越大效果越好越占空间和内存。
4. 所以苹果撑死只能做个一般的本地大模型。
5. 隐私保护的含义除了本地设备，还有禁止联网。（没错不联网就是本地的意思）
6. 当前的对话框模式，对信息的实时性其实是有要求的，用户想的是一个框搞定，不只能给我写篇文章画个画，还要能实时搜索我想要的内容，比如：告诉我 NBA 当前的最新进展，并帮我分析下哪支球队最有可能夺冠。
7. 这对苹果的隐私又是一种打击。

所以，综上所述，苹果要么就是放弃 AI ，或者放弃隐私保护。 不管怎么选，对苹果股价都没啥好处。

[Makabaka01]

@chhtdd 在线跟国内估计就没关系了，大概率跟三星一样直接给你换文心一言+WPS

[NewMoorj]

当宣传隐私有利于我，那就宣传隐私。

当宣传环保有利于我，那就宣传环保。

当宣传划时代的 AI 体验有利于我，那就......

没有贬低的意思，我认为每个时期都要有不同的工作重点，世界是不断变化的。

陷于祖宗成法不可变的思维也可以，但肯定会被淘汰。

[NoOneNoBody]

没理解这个逻辑，保护隐私需要离线，那 icloud 是个啥？

[catalysia]

保护隐私只要脱敏就行了 为什么要本地？
或者说你不会觉得所有的大模型训练都是侵犯隐私的吧？
只有苹果保护隐私吧？
任何国家任何法律对隐私的定义都是 1 不能精确到个体 2 个体不愿意展示

比如 我是 gay 我不愿意让别人知道 这是隐私 英国人其中有一个人是 gay 这个人不愿意让别人知道 这就不是隐私

现在的大模型训练都是基于这样的 虽然通过你的行为 言论训练了 ai 只要 ai 不知道是跟你学的 这就不算侵犯隐私

[Biggoldfish]

苹果最注重隐私保护 哈哈哈哈哈哈哈哈

是指建立云上贵州还是 Apple 自己收集一大堆隐私数据？

[ly841000]

@terrysnake #24 vivo 是本地

[okcdz]

做混合的没什么不可能的，本地数据本地计算，其他数据云端计算，模型慢慢调就可以了。Siri 也是如此。

[aero99]

苹果的 siri 也是可以联网的，通过 safari 查询网页给你

[xuanbg]

@terrysnake 你以为的隐私保护：我不会拿你的信息

[dog82]

可以收购一个

[terrysnake]

@ly841000 要不是我有 x90 pro+就被你骗了。网络断开一秒钟就提示无连接

[terrysnake]

@catalysia 你信吗？大公司真的不知道你是你？

[forrestbandit]

https://arxiv.org/pdf/2312.11514

[forrestbandit]

苹果去年发过一篇论文，把大模型分层加载到内存和磁盘中。磁盘中放一些稀疏的前馈矩阵权重之类的，减少读取次数，这样可以用 iphone 很少的内存解决大模型的加载问题，再配合上量化的技术，应该是能解决隐私模型上端的问题

[Enivel]

7b 13b 之类的小模型本地跑足够了, Apple 最近发布了个专门用于操作 app 的小模型, 可以满足你的 "叫一份黄焖鸡米饭"

[terrysnake]

@forrestbandit 怎么感觉是为了省内存。。。

[phrack]

Siri 就是联网的啊，我这 Siri 断网就不能用了

[nagisaushio]

那他倒是加内存啊

[bugu1986]

cook 不急

[lixintcwdsg]

这点你放心。
只要需要传输隐私数据，这些大公司就会推着法律法规走另一个方向，并且会有一系列宣传配合。
唉，太懂了。。。