花 2 月写了一款软件,结果 claude code router 上线了一模一样的功能

10 小时 57 分钟前
 xiaoge666

用各种 agent 调模型经常遇到的几个问题:

1.用 claude code 中途需要切模型,尤其是切供应商,需要 resume session 才能识别新的 settings.json 2.模型本身的供应商做了 429 限流,经常卡住,无法并发,比如 kimi 的和火山引擎的 coding plan 3.在不同的供应商买了 coding plan ,需要在 token 用完的时候可以切到其他供应商,无缝使用 4.根据当前任务选择不同智能的模型,比如 plan 的时候用 opus ,implement 的时候用 qwen ,支持 step level

我前 2 月自己开发使用的时候,claude code router 还没有上线桌面端,所以我结合 portkey 的开源网关写了一款本地的 ui 界面,然后打算做推广分发,没想到 claude code router 做了一样的。

反正写了也是写了,把链接放在这吧 https://github.com/leaf-llm/llmadmin-ui

欢迎讨论,泪目

1297 次点击
所在节点    程序员
15 条回复
privil
10 小时 52 分钟前
哥,release 没编译,方便编译一下吗
xiaoge666
9 小时 18 分钟前
@privil 正在重新编译😂
crime1024
7 小时 29 分钟前
完了 我也造了个轮子 https://github.com/kehuai007/switchai
LukeJr
7 小时 25 分钟前
我也。其实
xiaoge666
5 小时 27 分钟前
@crime1024 你是给自己用的吗,其实好多类似的,比如 https://github.com/9j/claude-code-mux ,但是桌面端比较少,我才写的
sickworm
5 小时 27 分钟前
如果是一个大众的需求,肯定很快就有人做出来,而且影响力比自己大得多。也算是国内的劣势吧
xiaoge666
5 小时 26 分钟前
@LukeJr 贴一下看看
xiaoge666
5 小时 18 分钟前
@sickworm 嗯,还是要早点做,目前看 agent 本身会把这部分吃掉
musi
5 小时 15 分钟前
我昨天晚上才发版,今天就在 V 站看到了
其实目前桌面版还不太完善,只是换了架构,防止有人再给旧版提 issue 才被迫发的新版,现在还在修 bug
Loocor
4 小时 52 分钟前
跟 cc-switch 是不是一类,这类太卷了怎么敢做的,而且似乎也很难变现啊
4seasons
4 小时 9 分钟前
啊,没记错的话,new api 就能实现吧?
xiaoge666
4 小时 3 分钟前
@musi 哈哈,作者竟然看到了,感觉挺完善的。我一开始有上述的需求,搜到你这个项目,觉着配置有点复杂,就写了一个 ui 来简化的,然后今天想着看看 ccr 有啥变化就看到发了新版
xiaoge666
4 小时 1 分钟前
@Loocor 一开始是想着做给自己用下,cc-switch 做不了一些定制
xiaoge666
3 小时 58 分钟前
@4seasons 我试过,litellm 比较复杂,new api 主要用来配置代理商和云端转发,感觉 ccr 是本地功能比较多人用的
cqdev
3 小时 2 分钟前
同方向,自荐 Manifold(本地 AI 网关 App)。跟上面几个比,关键就两点:

1. 路由:一个固定的客户端模型名,背后按权重 / 故障转移分发到多家 provider+model 。

2. 临时受限 key(全程本地):让 coding agent(Claude Code / Cursor / 各种 agent)跑真实 LLM 时,签一个短期、可限定 route/provider 的 session key(mf_session_…)给它,而不是把你各家真 key 塞进去。这些 agent 会读你的文件和环境变量,就算 key
被它读到也无所谓——它只认你本地 127.0.0.1 的网关,出了这台机器没用、范围可限、会过期、随时撤。CLI 还能自己一条命令领取(Pair a CLI)。

其余(纯本地、用量 & 成本统计、27 个远程预设、Ollama/LM Studio)就不展开了。Mac/Win 都有,Free 够用,Pro $2/年。

自荐轻喷:lhttps://www.lingphi.com/manifold/#downloads

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1223150

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX