基于 chatGPT 的文章阅读助手 # myGPTReader

[bmpidev2019]

开源地址： https://github.com/madawei2699/myGPTReader

背景： https://twitter.com/madawei2699/status/1632246398308724737

花了几天时间开发了基于 gpt_index 与 chatGPT 的 slack bot ，功能就如这个帖子里展示的，只不过是在 slack 中交互。如果想体验的话可以加入这个 slack channel： https://join.slack.com/t/bmpidev/shared_invite/zt-1r38f90n5-bOp~RZqoMYiYMOtmKZsbcw

目前实现的功能：

1. 可发送多个链接（支持普通页面与 RSS 链接），让 chatGPT 基于这些文章内容进行总结、分析处理；
2. 会自动对链接进行爬取，如果常规爬取不了的站点会启用无头浏览器代理爬取；
3. slack bot 会自动在问题下的 thread 内异步回复答案；
4. 不包含链接的内容直接发给 chatGPT 处理；

未来的进一步规划：

1. 定时自动总结每日订阅的邮件列表或文章信息源；
2. 支持多种 prompt 模版做自定义的调优；
3. 可能会支持语音交互；

彩蛋：此项目是与 chatGPT 一块结对开发的，我把交互的 prompt 过程也记录下来了，感兴趣的可围观： https://github.com/madawei2699/myGPTReader/blob/main/docs/chatGPT/CDDR.md

[gogogo1203]

可以把 以前的旧信息提前生成成 vector 存起来，然后用 embeding, 省去 4000token 的麻烦。

[ggmood]

已 star

[NathanZeng]

赞一个。之前看过楼主的 blog ，很牛逼。

[conge]

与 chatGPT 一块结对开发这件事，对我触动很大。我以前只是问他一些具体的问题，但从来没想过让它从头到尾帮我写代码！

开启了新思路啊！！

大写的服！

[haoxuexiaoyao]

支持爬取文档么 比如 python3.11 文档

[bmpidev2019]

@haoxuexiaoyao 可以的，你甚至可以吧一本书的内容用 embedding 处理，目前这个 bot 只是处理单页面，当然也可以一次发送多个 url 让它把这些页面内容全部喂给 chatGPT 去处理。

[lopssh]

这个可以！

[handuo]

感谢！平时用 discord bot,可以也移植到 discord 上去

[kongkongye]

@bmpidev2019 我有个疑问，内容喂了后，问他某个具体的 xxx ，那是先把与 xxx 有关的行按相关程度提取出来，然后当作上下文来问 chatgpt ，但如果只是问整篇文章 /整本书写了什么，那提取的是什么东西呢？

[kongkongye]

结对开发，是通过一个 chatgpt 会话实现的吗？还是多个 chatgpt 会话？
如果是用 api ，那每次都把之前聊天内容传回去，账单要爆炸。
而且一些小的东西，你非要让 chatgpt 来回答与修正，这等待的时间太浪费，反而会降低效率。

[bmpidev2019]

@handuo 这也可以，主要是费用的问题，这个适合私有部署，否则人多了账单爆炸，不过增加一个 bot 也容易

[bmpidev2019]

@kongkongye 一个 task 一个会话完成，任务驱动的，实际效率比自己写还要快，因为对语法和生态掌握的不熟练，所以实现交给 chatgpt 反而很快能完成。

[bmpidev2019]

@kongkongye 这是 gpt_index 库利用 openai 提供的 embedding 模型完成的，具体你可以看背景提供的链接介绍，并不是把所有内容一股脑喂给模型，那样真账单爆炸了

[bugschn]

@bmpidev2019 大佬，请问使用 gpt_index 阅读源码是怎样实现的？

[hyperzlib]

@bmpidev2019 如果需要大量 embedding ，其实可以考虑一下本地运行 BERT 做词向量转换

[hyperzlib]

@bmpidev2019 BERT 也支持句向量，可以试试 chinese-bert-wwm

[bmpidev2019]

@bugschn 官方就有 demo ，本文背景里的推文也有我的阅读代码测试可以看看

[bmpidev2019]

@hyperzlib 不知道这个模型效果和 openai 的相比怎么样，因为少量的话 openai 的 embedding 也不贵，大约五百多万个 token 是 2 美元，这大概是一个小型 repo 的源码大小。

[lovestudykid]

gpt_index 是怎么实现的呢？这些 embedding 不需要每次都喂给 gpt 吗？长度不超标？

[ziyuan]

这个不错啊。。