Gear - 让 Agent 用 Jev 的价格达成 Astra 的性能

9 月 21 日
 tangyehui

尝试写了一个自进化的基建 Gear - General Evolution ARchitecture ,只要给定一个 benchmark ,Gear 就会自动优化出一套最适合当前场景的 harness 。

当前在 automation bench 的 marketing 任务上,经过 Gear 优化的 DSH + Luna 实现了 88% 的目标完成率超过了 Astra + Codex 的 84%,并且单任务成本降低了 95%。

仓库地址在 https://github.com/rsi-gear/gear

求大家提提意见,点点 star 。

2012 次点击
所在节点    程序员
7 条回复
lancevps
9 月 21 日
跑一下 Terminal-Bench 4 ,我对这个评测比较相信
tangyehui
9 月 21 日
@lancevps tb 的任务有点太长了,自己的 token 烧不动了,欢迎 contribute 实验结果。在 tb 2.1 上是 Luna + Gear-tuned DSH 84.26%,Astra + Codex 87.4%, Fable + ClaudeCode 83.8%。
sampeng
9 月 21 日
还有一点。时间。。astra 5 分钟做完。luna 要花 15 分钟就不能忍了
nightwind
9 月 21 日
有点意思
tangyehui
9 月 21 日
@sampeng 感谢建议!下面是对 automation 任务的统计结果。
每题耗时 | Luna max | Astra max
Agent 平均运行时间 | 5 分 51 秒 | 5 分 39 秒
Agent 运行中位数 | 5 分 23 秒 | 5 分 28 秒
含环境准备、执行和评分的平均时间 | 7 分 07 秒 | 8 分 30 秒
tangyehui
9 月 21 日
@nightwind 有兴趣可以点个 star ,持续关注一下。非常感谢!
tangyehui
9 月 21 日
求大家点点 star ,给点意见啊

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1243493

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX