请不要把任何和邀请码有关的内容发到 NAS 节点。

邀请码相关的内容请使用 /go/in 节点。

如果没有发送到 /go/in,那么会被移动到 /go/pointless 同时账号会被降权。如果持续触发这样的移动,会导致账号被禁用。
zcbgood
V2EX  ›  NAS

自建了个"多模型并排"的 AI 入口,跑在 NAS 上,全家共享

  •  
  •   zcbgood · 9h 17m ago · 397 views

    想输入一句话,让 Claude / GPT / Gemini 同时回答、并排比较。现成工具不顺手(收费 / 不让填 key / 不能并排),就自己搭了。

    做法:

    • 把访问统一成一个 OpenAI 兼容接口
    • 前面套 Open WebUI (并排 + 合成一个答案)
    • 两个服务 Docker 跑在群晖 NAS ,24h 常驻
    • key 只存服务端,永不下发浏览器
    • 规则分流:只让国外模型域名走代理,国内直连

    踩的坑:半夜崩是 NAS 的 inotify 实例数满了;代理坏节点用"健康检查指向真实模型接口"自动剔除。

    写成长文 + 架构图了: https://zerblion.github.io/zrxl_blog/#/post/2026-06-21-multi-model-ai-gateway 顺便问下,大家的自托管多模型都怎么搞的?

    1 replies    2026-06-26 18:09:56 +08:00
    alfawei
        1
    alfawei  
       5h 26m ago
    挺有意思的想法 要能在手机端实现就好了。我用 docker 在群晖上部署了一个 deepseek 接口接入到 synology chat
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2552 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 15:36 · PVG 23:36 · LAX 08:36 · JFK 11:36
    ♥ Do have faith in what you're doing.