我为什么把 SeasAGI 做成开源项目

1 小时 24 分钟前
 ciogao

我做开源基础设施很久了。真正改变我对开源理解的,是一个用 C 写的 PHP 日志扩展:SeasLog。

当时我手上的日志方案,要么是 syslog 的薄封装,要么是比它记录的那次请求还重的框架。我想要一个小东西:一个扩展、固定格式、按模块和级别分开、开箱不用配置。写完放到 GitHub,写好文档,就去做下一个问题了。

后来 PR 开始出现,PHP 官方手册收录了它,再后来在会议上遇到用了好几年、却从没联系过我的工程师。那一刻起,开源对我来说不再只是"我发布的代码",而是一种工作方式。

SeasLog 教会我的规则

日志不是一个功能,它是基础设施。它慢,人们就会关掉它;它不可预测,人们就不再相信那些数字;它难读,就没人愿意去修格式。

所以设计约束只有四条:小、快、可预测、不挡路。不要账号,不要需要照看的守护进程,不要无法检查的行为。后来把这套约定移植到 Go,做成 SeasLog4Go,约束没有变,变的只是运行时。

这之后每个项目我都按这条规则做。SeasAGI 是下一个。

为什么做网关

去年我大部分调试时间,花在一个跟模型质量无关的问题上。我同时在用几家 Provider:一家跑长上下文,一家做便宜的抽取,本地模型处理不能出机器的内容。三个后台、三种 Key 格式,重试策略只活在我脑子里。

长任务跑到一半遇到 429,我去改代码指向另一家,然后忘了改回来。账单出来时,我能看到每家 Provider 的总额,却说不出哪条路由产生了它。

现成方案都不合适。托管式路由器要把 Key 和请求送进别人的基础设施;自托管的代理通常是一个依赖树很大的 Python 服务,对一个桌面工作流来说运维面太重。

于是答案很直接:把网关放在开发者自己的机器上。一个入口,localhost:4318/v1,兼容 OpenAI 协议,现有 SDK 改个 base_url 就能用。通道、路由、降级、成本在同一个窗口里。Key 放在系统钥匙串。

这里的"开源"指什么

桌面客户端 GPL-3.0;社区版服务端 AGPL-3.0,可以自托管;企业版付费,覆盖公司真正需要买的部分:计费、多租户、SSO、审计与支持。

这个边界我想说清楚,因为开源用户被"先开源后收回"伤过。今天开源的部分会一直开源;企业版不是人质开关,它只是公司需要、个人不需要的运维层。

具体来说,开源意味着:你可以读路由代码并不同意它;可以离线运行客户端;可以自托管社区版;如果方向不再适合你,可以 fork。

我不主张什么

我不主张它能替代所有团队的托管路由器。如果你希望零运维,托管服务更合适,这一点我会直说。桌面网关意味着每台机器多一个进程,密钥托管需要你自己想清楚。团队治理需要服务端版本。

我也暂时不主张任何数字。我会连同测试方法公布实测结果,而不是估算。在那之前,任何"省钱"都只是假设。

为什么公开做

我做过安静的那一版:写代码、发布、等人发现。它有效,但很慢,而且藏起了对其他维护者最有价值的部分——决策和错误。

所以这次我边做边写:发布了什么、哪里坏了、哪里想错了、哪里改了主意。如果你也在做类似的东西,有用的部分是推理过程,不是 release notes。

我一直想问的一个问题

上个月的账单,你能说清是哪条路由产生的吗?如果说不清,最先要改的大概不是模型。

Repo 与文档:https://github.com/SeasX/SeasAGI

104 次点击
所在节点    人工智能
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1257710

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX