开源一个肝了一段时间的 AI 网关项目

19 小时 35 分钟前
 ZSeptember

项目地址: https://github.com/looplj/axonhub

感兴趣的可以看看,觉得有用的话,欢迎点个✨。

详细介绍一下核心能力:

  1. OpenAI/Anthropic 请求格式互转,业务开发只要接一种格式,就可以对接各种不同的模型,减少开发成本
  2. 完善的控制面板,渠道管理,权限控制,用户管理,API Key 管理等
  3. Vercel ai-sdk 请求格式支持; ai-sdk 是当前比较火热的 chatbot/agent 开发框架,但是官方后端只有 node ;本项目添加 ai-sdk 的格式支持,可以让后端用 Go 的团队,也用上 ai-sdk ,加速开发
  4. Prompt 监控,debug ,支持保存 Request 以及 Response 内容,方便排查问题
  5. claude-code 优化支持,只要配置一次 claude-code ,然后可以在服务端随时切换模型,快速切换 DeepSeek, glm-4.5, kimi-k2 等;主要的实现方式是 API Key 有多个 profile 可以根据需要快速切换不同的 profile ,每个 profile 可以配置使用不同的模型。

其实类似项目,已经挺多的了;为什么自己要重新造轮子呢,有几个原因:

  1. 目标用户一样,本项目的目标用户是 AI 产品开发者,而不是中转商
  2. 技术风格不一样,不习惯已有项目的代码风格,技术选型等;本项目核心代码都有单测覆盖;技术选型:
    • 后端:Go + ent + gqlgen
    • 前端:React + TypeScript + Shadcn + Graphql

未来规划:

  1. Trace ,类似 Langfuse, opik, LangWatch ,trace 同一个业务流程多次 AI 调用;但是是服务端实现,减少客户端侵入
  2. Prompt Evaluation ,修改了 prompt 可以批量自动化回归是否有问题
  3. Agent 开发支持等

更多信息大家可以看看项目 README ,有什么其他问题的欢迎提问或者创建 issue 。

1150 次点击
所在节点    程序员
8 条回复
NoDataNoBB
19 小时 34 分钟前
好东西
ChinaDolphin
19 小时 10 分钟前
演示账号 | Demo Account 的密码是 123456 前端校验是密码至少需要 7 个字符
xsw331
18 小时 38 分钟前
Demo Account
Email: demo@example.com
Password: 123456
前端校验是密码至少需要 7 个字符
ZSeptember
18 小时 35 分钟前
@xsw331 @ChinaDolphin 不好意思,demo 账号密码更新为 12345678,我试了下,登录成功。
ZSeptember
16 小时 37 分钟前
Demo 添加了一个智谱的免费模型。

让 copilot 提个两个 PR ,
1. 修复 demo 账号
2. Playground 支持 reasoning 展示
timerring
13 小时 33 分钟前
老哥是怎么用的 copilot ,需要付费吗?🤔
ZSeptember
13 小时 9 分钟前
@timerring #6 付费的,用的国内 visa 卡,很容易支付的。

不过我也在研究怎么在 github 里面使用 claude code ,昨天试了一下,能跑起来,但是不会提 PR 。
hemingway
6 小时 22 分钟前
已 star

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1160378

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX