Codex 雷达上线一段时间了,做个月度复盘

8 月 12 日
 LDa

这本来是七月份的复盘,忙忙碌碌拖到今天,不过正好分布式雷达上线也快一个月了,也算一个月度复盘吧

毛两个月前,站长做了个 tibo 重置预告,针对 tibo 的推特进行分析来判断重置概率,在运行一段时间后我们发现大家在讨论重置之余,也总是诟病模型降智问题,因此我们一拍即合做了 codex 智商监测。

最早的时候,我们拿了现成的 SWE 评测标准,几个人凑了点号在后台每天运行测算模型 IQ ,得到一些基准数据并发布到网站上,没想到一经发布流量就爆了,原来也有很多小伙伴跟我们一样,对着经常货不对版的模型光烧 token 却得不到想要的结果。

再次运作一段时间后,蹬友们开始不满足于每日一出的 IQ 报告,我们增加了评测频率,希望能提供更有时效性的 IQ 指标。其实中途也有热心的中转大哥想支援我们一些 token ,但由于担心中转的模型不能直观有效地反应 oai 模型质量,我们商讨之后还是拒绝了,依然使用几个 20x 账号进行评测。

再再后来,我们的钱包实在撑不住了(服务器、流量、订阅等综合成本实在是高昂),为了分摊一些成本,我们不再增加订阅账号,而是新做了一个分布式雷达站点,让蹬友们可以把多余的 token 贡献到具体的题目上,为 IQ 测算出一份里,也能增加智商监测的实时性。

以上是两个站点的由来(其实还有一个 claude 智商监测站,但是 A\ 把我们手上的 max 号全封完了,遂暂停!(口吐芬芳))

一路走来,感受到在工作之余为别人解决一些真切问题的谢意,互联网上的真诚感谢比真金还贵重,在此也感谢大家的心意支持和 token 支持。

===============================

接下来汇报一下进展和未来要做的事情

月活量已经做到了 40w (分布式站)

收到网上热心大哥们的热心助力共计 12 万刀 为了感谢大哥们的支持,我特地制作了 3D 打印奖杯作为答谢

未来针对 SWE 基准和实际工程应用的体感偏差,我们正在抓紧商讨设计新的测试集,在这里要特别感谢 boyang-hu 的前端网站复刻相关帖子和 skill 在友好交流后,我们在想办法把他的成果固化成测试题,解决了前端工程能力测试难以度量的痛点。接下来我们希望我们能做出更贴合实际体感的测试结果,减少高分低能的情况出现。

最后,衷心祝愿大家永不封号,永不降智,开心地蹬!

5726 次点击
所在节点    OpenAI
40 条回复
momomoo
8 月 12 日
感谢做了这么好的网站,每天都在用。
An007
8 月 12 日
感谢,天天都有在用。
LDa
8 月 12 日
@momomoo
@An007 谢谢支持 我们会再接再厉的
FByron
8 月 12 日
感谢 每天用 codex 前先看网站数据
Felldeadbird
8 月 12 日
感谢大佬的开发。雷达站确实好用。
tuangouzi
8 月 12 日
求个入口
LDa
8 月 12 日
Yishanshan
8 月 12 日
看来你真是来感谢的,连个入口都不放
neway
8 月 12 日
google codex 雷达就能找到,别只伸手要 https://codexradar.com/
LDa
8 月 12 日
@Yishanshan 哈哈哈,真切朴实的感谢
msg7086
8 月 12 日
之前就推荐给公司里的同事了。
LDa
8 月 12 日
@msg7086 感谢推荐
yming
8 月 12 日
支持,太棒了
ktyang
8 月 12 日
我提一个意见啊,目前的侧重是代码实现,可能和智商还是不能完全划等号的,很多时候真实应用的时候的体感跟网站上算出来的得分差异很大,luna max 和 xhigh 非常明显。
EvanClausen
8 月 12 日
上个月朋友分享了这个网站,很有意思哈哈哈,每天闲的时候都会打开看看 Tibo 是不是又要开始妖或者模型有没有降智,感谢大佬
LDa
8 月 12 日
@ktyang 这个意见非常中肯,其实我们也看了非常多的基准测试,但是日常使用评测的验收判断非常困难,暂时还没想到有啥好办法,所以大部分的评测还是围绕这可定义可验收的编程环节来的。不过最近上线的庞贝副本利用拼图测试对模型的视觉理解能力能一定程度进行评测,欢迎来玩
https://deng.codexradar.com/?benchmark=pompeii-adjacency
grindmule
8 月 12 日
确实很优秀哈
LDa
8 月 12 日
@Felldeadbird
@msg7086
@yming
@EvanClausen
@grindmule 感谢大家的支持鼓励 谢谢
JasperHale
8 月 12 日
恭喜月活新高!
ktyang
8 月 12 日
@LDa #16 嗯嗯 我也理解这个问题是很困难的,需要好好思考,后面有精力了我也可以把我的思考跟你们交流一下。测试视觉理解能力建议统计一下网络流量的消耗,我之前搞图片相关的任务的时候流量耗的飞起。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1233868

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX