V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
zpvip
V2EX  ›  分享创造

别再折腾 Ollama 了!我把 Mac 内置的 Apple Intelligence 变成了标准 OpenAI 接口,支持任何客户端

  •  
  •   zpvip · 2 月 27 日 · 2322 次点击

    最近 Apple 悄悄开源了一个王炸项目:针对 macOS 内置基础大模型的 Python SDK ( https://github.com/apple/python-apple-fm-sdk )。这意味着我们可以直接调用系统原生自带的 Apple Intelligence 算力了!

    借着这波东风,我马上搓了一个项目,把系统底层的苹果模型包装成大家最熟悉的标准 OpenAI API 。

    🔗 项目在此: https://github.com/ZPVIP/apple-to-openai (欢迎老哥们点个 Star ⭐ 支持下!)

    🎯 为什么需要它?(核心解决隐私和数据脱敏问题) 大家在用各种 AI 客户端帮忙分析工作日志、敏感代码或是业务数据时,多多少少会有“数据传到云端会不会泄漏”的顾虑。

    这时候 apple-to-openai 的优势就出来了:

    • 纯粹的隐私安全(数据脱敏利器):100% 在你的 Mac 本地运行。断网也能跑,数据绝不出你的电脑。
    • 极轻量、免折腾:你不需要去下载 Ollama ,也不用去 Hugging Face 拖几 GB 的第三方开源模型权重。Mac 系统自带什么,我们就用什么。
    • 万物皆可缝合:直接提供 OpenAI 兼容规范的 /v1/chat/completions 。只要你会改 baseURL 和随便填个 API Key ,你的小龙虾客户端( OpenClaw )、Chatbox 、Open WebUI 甚至所有 IDE 插件全部一秒无缝接入! 👉 项目的 README 里有保姆级的配置说明,直接用 uv run apple-to-openai 就能丝滑启动。

    🌟 夹带私货时间:绝配的周边工具 既然有了免费、本地的原生 AI 接口不用白不用。顺便安利我安利了几次的另一个懒人神器:

    🛠️ CommitGPT —— 帮你自动写完 Git Commit 的 CLI 工具!

    • 极其丝滑的安装:支持原生 brew 安装,告别复杂的环境依赖!
    • 本地大模型的绝佳拍档:把后端的 Provider 切换到刚才配置的 apple-to-openai ,从此以后你项目里的所有 git commit 都由 Apple Intelligence 帮你按常规标准免费写好,不用担心任何敏感代码提交时泄漏。

    两个项目都已开源,用爱发电! 欢迎大家去搞事、提 Issue ,如果觉得让你用得顺手,别忘了去 Github 给楼主点个 Star 🌟 充值信仰!你们的 Star 绝对是我更新的最大动力!🙏🏼

    18 条回复    2026-03-01 02:54:28 +08:00
    zpvip
        1
    zpvip  
    OP
       2 月 27 日
    darksword21
        2
    darksword21  
    PRO
       2 月 27 日
    不错,但是我这国内买的是不是不能用啊😢
    iomect
        3
    iomect  
       2 月 27 日
    没有大模型的苹果恐成最大赢家
    so898
        4
    so898  
       2 月 27 日
    之前一直在用 mattt 的 https://github.com/mattt/olleh 只能说苹果的模型还是太弱智了,对于工具的支持太过于差了
    jjxtrotter
        5
    jjxtrotter  
       2 月 27 日 via iPhone
    需要 Mac 本身支持 Apple intelligence 吧?
    fredweili
        6
    fredweili  
       2 月 27 日
    我不相信 Apple 的 LLM
    jisongkun
        7
    jisongkun  
       2 月 27 日
    感觉 LMStudio 还是方便多了
    aero99
        8
    aero99  
       2 月 27 日
    那么 iPhone 上能搞不,我 Mac 上都很少用 Apple intelligence
    EchoWhale
        9
    EchoWhale  
       2 月 27 日 via iPhone
    ollama 至少能换不同的模型用,你这不是吊死在一棵树吗
    stinkytofux
        10
    stinkytofux  
       2 月 27 日
    厉害啊! Mac mini 的性价比又高了.
    stinkytofux
        11
    stinkytofux  
       2 月 27 日
    系统设置里面没有 Apple Intelligence & Siri 这个选项怎么办
    Wcowin
        12
    Wcowin  
       2 月 27 日
    我的国行 Mac 得靠边站了
    zpvip
        13
    zpvip  
    OP
       2 月 27 日
    @EchoWhale 我也装了 ollama ,但反应还是慢,吃资源,我一般用 CommitGPT 写 git commit, 不想在内存常驻一个 Llama 3.
    zpvip
        14
    zpvip  
    OP
       2 月 27 日
    @Wcowin
    @stinkytofux
    @jjxtrotter
    @iomect
    @darksword21

    抱歉,忘记了国行不能用 Apple intelligence ,尴尬了。想不到阉割这个功能的理由啊,本地模型而已,其实 Apple intelligence 是支持中文的。
    zpvip
        15
    zpvip  
    OP
       2 月 27 日
    @EchoWhale
    @jisongkun
    飞机很好,但有时候也需要自行车。
    MzM2ODkx
        16
    MzM2ODkx  
       2 月 27 日
    @zpvip 应该有吧,只是隐藏了。我看有人通过一些设置就可以让它出来
    goodlilbean
        17
    goodlilbean  
       2 月 28 日
    感谢楼主贡献!

    求问未来有支持 macOS 15 的可能性吗?这个系统版本也支持 xCode 26
    zpvip
        18
    zpvip  
    OP
       19 小时 47 分钟前
    @goodlilbean 我只有 Intel Mac 还在运行 macOS 15 ,如果你能打开 Apple Intelligence 就可以试一下
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2972 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 14:42 · PVG 22:42 · LAX 06:42 · JFK 09:42
    ♥ Do have faith in what you're doing.