V2EX 基于站内内容的生成式聊天功能

[Livid]

• 这个功能已经在 https://edge.v2ex.com/chat 部署
• 这个功能的主要目的：提供一个通过 V2EX 站内主题和回复查找、整理信息的新工具
• 如果你曾经在 V2EX 充值支持过本站，或者持有至少 10,000 $V2EX（LP 按 2 倍计入），就可以使用
• 类似 Codex / Claude Code 的 5 小时用量窗口，额度由充值记录、过去 365 天充值权重，以及当前 $V2EX / LP 持有量共同决定
• 可以限定每个聊天 session 的内容范畴：全站、节点、用户或者单一主题
• 当前使用 26B 级别模型，回答会优先依赖 V2EX 站内搜索、主题和回复上下文；重要信息请回到原始主题和回复中确认

[KingFong]

好像访问不了。

[Livid]

@KingFong 之前原文中的域名写成内部服务器的地址了，已经改正。

今天上线第一天，肯定会遇到一些问题。我在密切监控。

[hellodigua]

已测试成功

[hellodigua]

就是额度比较少，问了四次就没了

[Baymaxbowen]

@Livid 能不能使用铜币或者金币？

[Livid]

@Baymaxbowen 我明白你的意思。下一步会实现这样的基于铜币消耗的系统。

[conge]

使用了下面的问题试用了 chat

“请对我（ id conge ）做人物画像和人物小传，优点弱点列表。”

被夸的很舒服。

对 @Livid 也使用了类似提示词，也是一通夸。咱俩共同特点，“低社交补偿”，我猜就是“中年宅”的意思。

[hhacker]

好东西, 可以聚合很多帖子

[YFZZ]

这个功能不错，对我来说算是 V 站搜索功能的进化版。

[WolverineL]

两个问题 已用 12%
Tokens：总计 6271 · 输入 5452 · 输出 819
Tokens：总计 2570 · 输入 2372 · 输出 198

[409164]

期待一波

[Livid]

@hellodigua
@WolverineL

感谢测试和反馈。目前第一天这个地方的数值确实是设置得比较保守。会在 24 小时内进行第一次调整。

从长远运行的角度，这个数值会只扩大不减少。

[Tink]

有点意思，在哪看使用量啊

[Tink]

三个问题用了 17%，还可以

[nc]

TPS 有点低，好奇这个模型是运行在站长自己的硬件上吗？

[Livid]

@nc 是的，目前是跑在 DGX Spark 上。

[Livid]

累计使用量突破第一个 1M

[383394544]

有賽博嘴替可以幫我對線了嗎？

[alphato1o]

恭喜上线 🎉

[zencitta]

想问一下用的什么模型