[开源分享] 一个 CPA 插件拯救你的 GPT5.5 和 5.6 , 缓解 516 降智问题(已被 CPA 插件商店收录)

[ufhy]

在之前就被发现, GPT 5.5 在部分场景下, 会在 518n-2 的长度被截断思维链

具体可以看这个issue的讨论

这显著的带来了思考不充分进而导致降低智商

解决了什么

本插件( https://github.com/uf-hy/cpa-plugin-codexcomp )在 CPA(CliproxyApi)上拦截对应模型的请求

在 CPA 侧检测到推理命中 518*n-2 这种截断时, 自动继续推进思考

并为了防止首字过长导致客户端误判进而报错, 在思考时采取了类似于假流式的做法

并得益于是 CPA 插件, 只需在 CPA 上安装, 下游客户端无需更改即可享受

当前默认的模型为 5.5, 5.6 luna, 5.6 terra, 目前都可以观测到在 516 处的截断

5.6 sol 尽管有观测到相同的截断类型, 但几乎都是非常高位的截断, 暂时不添加

当然, 插件允许自定义模型, 自定义续写次数和文本, 如有需要可以自行添加

使用插件前后对比

使用 Codex 糖果降智测试 作为测试

插件开启前:

Run  Codex                                    In Tok  Out Tok  Reason Tok  Time(s)   TPS  OK
---  ---------------------------------------  ------  -------  ----------  -------  ----  --
  1  最少取出 29 个。\n\n 理由很直接：看最...    7363      722         516     17.1  42.3  ✗ 
  2  最少要取出 29 个糖果。\n\n 理由很简单...    7363      739         516     18.3  40.3  ✗ 
  3  最少是 21 个。\n\n 因为形状能靠手感分...    7363     1772        1552     34.6  51.2  ✓ 
  4  最少取出 29 个。\n\n 理由很简单：先看...    7363      747         516     16.4  45.7  ✗ 
  5  答案是 21 颗。\n\n 按题意，形状能靠手...    7363     3375        3069     65.8  51.3  ✓ 

Graded 5/5  correct=2  accuracy=40.0%

插件开启后:

Run  Codex                                     In Tok  Out Tok  Reason Tok  Time(s)   TPS  OK
---  ----------------------------------------  ------  -------  ----------  -------  ----  --
  1  按题里说的形状能靠手感分辨，最少是 21...    7363     3933        3641     87.6  44.9  ✓ 
  2  答案是 21 颗。\n\n 按题面说的形状能靠...     7363     2379        2059     45.7  52.0  ✓ 
  3  按题里形状能靠手感分辨来理解，最少取 ...    7363     3500        3273     68.8  50.8  ✓ 
  4  答案是 21 颗。\n\n 利用手感指定形状去...     7363     4811        4555    104.9  45.9  ✓ 
  5  按题目说的形状可凭手感分辨来算，最少...     7363     3342        3100     82.1  40.7  ✓ 

Graded 5/5  correct=5  accuracy=100.0%

可以显著观察到在开启前存在多个 516 截断的思维链, 在开启插件后被正确的续写, 从而答对测试题

注意, 这不可避免的依旧会实际提升真实的首字延迟 是类似于"用时间换思考深度"的 如果使用 GPT 的场景相对轻量化则不建议使用

如何安装

如果你使用 AI agent （如 Codex 、Claude Code 等），把下面这段提示词发给它：

请帮我安装 CPA 插件 codexcomp 。安装说明在 https://github.com/uf-hy/cpa-plugin-codexcomp/blob/master/SETUP.md ，请先读取这个文档再执行安装。

如果你打算手动安装, 他也很方便

得益于现在本插件已被 CliproxyApi 插件商店收录

可在 CPA 的 webui 的插件商店中搜索 codexcomp 即可安装

(值得注意的是存在一个名字类似的 CodexCont , 功能类似但默认不支持 5.6, 且似乎仅支持 responses 协议调用, 本插件支持包括 responses, anthropic message 和 openai compatible 多协议调用, 但或许都值得一试)

参考了如下项目

CodexCont 和codexcomp提供了两种近似而不一样的解决方案

他们通过一个独立本地代理来实现对思维链的续写, 前者更偏向通用场景, 而后者更偏向 codex cli

本项目基于这两个项目的思想而在 CPA 上实现, 更偏向于使用 CPA 的用户, 感谢他们的开源

[llCnll]

大佬,牛逼.