开源 AI 开发平台 AxonHub 发布 v0.4 版本

[looplj]

项目地址： https://github.com/looplj/axonhub

感兴趣的可以看看，觉得有用的话，欢迎点个✨。

详细介绍一下核心能力：

1. OpenAI/Anthropic 请求格式互转，业务开发只要接一种格式，就可以对接各种不同的模型，减少开发成本
2. 完善的控制面板，渠道管理，项目管理，权限控制，用户管理，API Key 管理等
3. 低侵入 LLM API Trace ，支持不需要 SDK 就可以 trace 一次对话的多个 request ，以及保存 Request 和 Response 内容，方便排查问题

本项目和 new-api 等项目的不同，本项目目标用户是 AI 产品开发者，不是中转服务商，所以会有更多开发监控相关能力，比如 Trace 。

项目核心代码都有单测覆盖，并且技术选型比较新颖

• 后端：Go + ent + gqlgen
• 前端：React + TypeScript + Shadcn + Graphql

本项目已经迭代了好几个版本了，本次正式发布 v0.4.0 ，主要添加功能

1.trace/threads 可以 trace 并且查看同一个任务的多个请求，并且可以开启 claude code trace 支持，了解自己本次任务到底用了多少 token 等。

2.支持配置保存 request/response 以及 response 的 SSE events 到外部 s3,gcs 等存储，减少数据库压力

未来规划：

1. Prompt Evaluation ，修改了 prompt 可以批量自动化回归是否有问题
2. Agent 开发支持等

更多信息大家可以看看项目 README ，有什么其他问题的欢迎提问或者创建 issue 。

上文可见：

https://v2ex.com/t/1164472

https://v2ex.com/t/1160378

[ylkk925]

如果业务针对的 c 端用户是按 token 消耗量多少来计费，业务开发类似的功能就比较麻烦了。
该平台是否有计划集成类似的功能。

[looplj]

@ylkk925 #1
1. 后续计划提供将某个 request 和业务 user_id 关联的方法
2. 平台记录了每个 request 对应的 usage log ，包含 request 的 input/output token 用量
3. 然后通过 user id 查询到 request 列表，然后可以统计出总的 token 用量

[ylkk925]

@looplj usage log 的数据量会非常大，这种统计方式不太好。如果是做成报表，实时性又不够。

[looplj]

@ylkk925 #3 大概理解你的场景了，类似 new-api 支持的那样，充值，然后消耗余额。
这一块确实暂时不在本项目开发计划里面，现在更专注内部开发调试之类的。
后续可能会接入 quota 限额之类的，但是应该不会接入充值。
性能为他，都是可以优化的，如果不是订阅制，token 都是累加的，可以更好优化。