🚀 HodlAI 降本核武器上线: OpenRouter Cache Proxy

5 小时 7 分钟前
 88AI

为了让国库的每一分钱都花在刀刃上,我们为 Claude 全系模型部署了透明缓存代理

核心就一句话:疯狂省钱。


📉 效果立竿见影

  1. System Prompt 成本砍掉 90% — 全员共享一份缓存。
  2. 多轮长对话费用降低 80–90% — 历史记录自动断点复用。

🛠 完全无感

零配置,无需改代码。 Proxy 会自动在请求过程中规范化数据,最大化命中 Anthropic 的缓存机制。


对 $HODLAI 的意义?

同样的国库资金,现在能支撑 10 倍 的用户并发和对话深度。

这不是魔法,是极致的工程优化

已默认全线实装。

309 次点击
所在节点    HodlAI
14 条回复
workbest
3 小时 31 分钟前
加油!
kkcity
3 小时 23 分钟前
@88AI dev 大佬,出错了啊:
⎿  API Error: 400 {"error":{"type":"400","message":"Provider returned error ({\"raw\":\"{\\\"type\\\":\\\"error\\\",\\\"error\\\":{\\\"type\\\":\\\"invalid_request_error\\\",\\\"message\\\":\\\"A maximum of 4 blocks with cache_control may be provided. Found
5.\\\"},\\\"request_id\\\":\\\"req_vrtx_011CXyxkt2FpcW6197Lz4ARW\\\"}\",\"provider_name\":\"Google\",\"is_byok\":false}) (request id: 20260210070409602450601Aw4MHEop)"},"type":"error"}
kkcity
3 小时 22 分钟前
补充:Claude Code, Opus 4.6. 上午修复过之后是好的,现在又不行了。
wowawesome
3 小时 4 分钟前
加油,我现在用 Token 已经不担心费用了,用完大不了休息一天,明天继续 work
88AI
2 小时 42 分钟前
@kkcity 再试试有没有这个错误
kkcity
2 小时 19 分钟前
@88AI 现在没有错误了,希望保持稳定啊!另外麻烦看看额度重置能不能优化一下呢?😂 https://www.v2ex.com/t/1191845?p=1#reply2
kkcity
1 小时 40 分钟前
@88AI 又出问题了...

⏺ Searched for 1 pattern (ctrl+o to expand)
⎿  API Error: 400 {"error":{"type":"400","message":"Provider returned error ({\"raw\":\"{\\\"type\\\":\\\"error\\\",\\\"error\\\":{\\\"type\\\":\\\"invalid_request_error\\\",\\\"message\\\":\\\"A maximum of 4 blocks with cache_control may be provided. Found
5.\\\"},\\\"request_id\\\":\\\"req_vrtx_011CXz63i5kxmSHV3BXg1XUv\\\"}\",\"provider_name\":\"Google\",\"is_byok\":false}) (request id: 20260210083946120215871s2R7T9yJ)"},"type":"error"}
workbest
1 小时 34 分钟前
今天总是会出这个错误

Date/time: 2026-02-10T08:49:59.275Z
Extension version: 3.47.3
Provider: openai (proxy)
Model: claude-opus-4.6

terminated
workbest
1 小时 34 分钟前
非常频繁
workbest
1 小时 34 分钟前
在 vscode 中用的 roocode 插件
Cabana
1 小时 32 分钟前
这样弄会导致大家的对话 context 混乱么?
88AI
1 小时 25 分钟前
@kkcity 优化了
@workbest 详细一点,这没法判断
kkcity
1 小时 3 分钟前
@88AI 我不确定这个错误是不是跟具体的调用 tool 有关系,因为我每次测试的任务都不同,只能说目前还没有遇到。
88AI
1 分钟前
@Cabana 当然不会混乱啊

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1191955

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX