• 请不要在回答技术问题时复制粘贴 AI 生成的内容
ccctttwww
V2EX  ›  程序员

分享一个小工具: AiRoute — 本地 AI 路由转发网关

  •  
  •   ccctttwww · 2h 57m ago · 240 views

    作为开发者,手里基本都有好几个模型 API ,编辑器也经常来回切换,每次换模型都要改配置、重启,挺烦的。

    所以我做了一个本地中转层:AiRoute — 所有客户端只需连 localhost:3000,想换模型在面板点一下就行,不用改任何客户端配置。

    完全免费,完全开源,MIT 协议。

    核心思路

    你的编辑器/客户端  →  AiRoute (localhost:3000)  →  你配置的多个模型
    

    中间加一层本地网关,模型切换、智能路由、故障容灾都在这一层搞定。

    几个我觉得比较实用的点

    • 一键切换模型 — 面板点击或托盘右键,客户端无需改动
    • 智能路由 — 设为 auto 模式,代码自动走强模型,中文走国产模型,自定义关键词也能匹配
    • 故障自动 fallback — 主模型挂了自动切备用,不会中断工作
    • 双协议原生支持 — Anthropic 和 OpenAI 协议不做格式转换,直接转发
    • 开箱即用 — 单个 exe ,双击运行,内置 Express 服务

    像我日常用 2-3 个模型、多个编辑器,用了这个之后确实方便很多。

    30 秒上手

    下载 exe 双击运行,在界面添加你的 Provider ( API Key + 端点),然后客户端 Base URL 改成 http://localhost:3000 就完事了。

    接入 Claude Code 只需改一行配置:

    {
      "env": {
        "ANTHROPIC_AUTH_TOKEN": "sk-airoute",
        "ANTHROPIC_BASE_URL": "http://localhost:3000"
      }
    }
    

    项目地址

    👉 https://github.com/c347087870/AiRoute

    觉得不好用可以提 PR 我来合并,或者直接告诉我需求我来改,都行。顺手的话点个 star 最好啦,谢谢

    keepfun
        1
    keepfun  
       2h 39m ago
    这个 cc-switch 不就能实现么?
    ccctttwww
        2
    ccctttwww  
    OP
       2h 18m ago
    @keepfun 和他的原理不一样,他是修改配置文件,我这个是中间自己中转一层,不限制任何工具都可以调用
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3120 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 13:07 · PVG 21:07 · LAX 06:07 · JFK 09:07
    ♥ Do have faith in what you're doing.