Astra 降速 降智

[2020beBetter]

今天日常开发，发现跟昨天类似的任务消耗时间翻倍了，而且任务执行结果也没用昨天好。

[Sezxy]

昨天就发现降了，很明显
一个小任务：“相册支持长按后多选并删除，同时支持查看相片的详细信息”，修了 4 次才满足，用的是 astra-medium

[2020beBetter]

昨天用 High 开发完用 Ultra 审基本上只有 2 个左右 P2 问题，今天审直接出来三个 P1

[zololiu]

从昨晚开始就有点不太正常了

[Yelou]

降速是真的，很难受

[yidinghe]

@Sezxy 我觉得这种需求 flash 模型就能做

[Sezxy]

@yidinghe #5 确实能做，但为啥 astra 做不好

[yidinghe]

@Sezxy 我猜是上下文太长，因为 transformer 有个硬伤就是 U 型注意力问题，上下文太长的时候，中间部分注意力会变差，大模型会表现为忘记中间的内容甚至产生幻觉。

[ZColin]

不知道这个 502 的限速啥时候解除，现在是任何模型都访问不了了

[RayCao]

昨晚 Astra 真给我气爆了，蠢得要死

[Sezxy]

@yidinghe #7 不是上下文问题，这是个新对话