有没有哪个平台可以使用满血大模型的同时提供一定的存储空间，以搭建线上个人知识库的？

[jackey007]

如题，我想通过把本地的个人文档（主要是 pdf ，md ，doc 文档）同步到云端，创建一个在线的个人知识库。在网上看了一些方法，在云端创建，需要上传本地的文件，但是我本地文件比较多（几千个，主要是一些论文）且经常更新，不可能每次问问题都全部重新上传一次。在本地部署，只能使用参数量较小的蒸馏模型。并且个人认为大模型的未来还是在云端的，不太可能每个人都本地搭建一个。所以问题来了：

现在有没有什么平台可以使用满血的开源大模型（比如 deepseek ，千问等），同时提供一定的存储空间（不需要很大，几个 GB 就行）？这样能够把自己的文档同步到云端，并且模型自动读取，以此实现通过本地调用 api 就能得到一个满血的个人知识库。

[liu731]

可能你在说 RAG ，但是这个代价（ Money ）有点贵哦。

[nicholasxuu]

几 GB 的数据量，随便哪个云，云盘或者 oss ，都很便宜的，几乎可以忽略不计。
大模型如果是直接用开源的，估计很多云平台可以直接按量租，不便宜但也可能还能承受，至少不是买机器的天文数字。
这些数据怎么给大模型用是个技术问题，
作为 context 全部丢给它的话，token 处理量巨大。
用这些数据提前微调模型的话，需要一些更强机器的训练费用，最终效果未知。
是不是要搭配 RAG 使用？

[virusdefender]

阿里云百练之类的？

[jackey007]

@nicholasxuu 您说的对，最大的问题是怎么把数据给大模型。

[loading]

AFFINE

[jackey007]

@liu731 其实我这个想法最好是机构能做，但是目前还没人做

[buynonsense]

我所知的
1 monica 可以免费用 deepseek,然后有一个备忘录功能好像是 md ，适合小笔记记录的
2 obsidian 的一个插件 https://github.com/brianpetro/obsidian-smart-connections

[uyoungco]

lobechat

[musi]

难的是数据检索，目前仅靠向量和关键词检索并不能很好的召回数据

[huzhizhao]

难的不是怎么达到这个目的。
而是召回普遍比较烂

[jackey007]

@musi 您说的召回数据是个什么概念？抱歉，我不是 coding 相关人士

[jackey007]

@huzhizhao 请教，这里的召回是个什么概念？

[jackey007]

@buynonsense 您可能理解错了，我要的不是记录，而是我给 ai 一堆材料，他能根据这些内容和我聊天

[musi]

@jackey007 #11
你可以简单的理解为“针对用户的问题对知识库进行搜索的结果”，实际上目前的 RAG 对数据的检索基本达不到满意的效果。
所以从 GPT3.5 出来的时候一直在吹的 AI 客服之类的到现在还不能很好的落地，一方面是 LLM 幻觉严重，另一方面是企图用 RAG 降低 LLM 幻觉并没有取得很好的成效。

[huzhizhao]

@jackey007 #12
我也刚接触不是很多，具体参考下这个图和文章

https://blog.csdn.net/zzZ_CMing/article/details/143099958
https://blog.csdn.net/zzZ_CMing/article/details/143099958

[huzhizhao]

@jackey007 #12 抱歉回复中的链接重复了 1 个
https://zhuanlan.zhihu.com/p/675529920

[jackey007]

@musi 了解了，多谢。AI 吹上天了，我还想着以后可以把一堆 paper 给 ai ，让他写一个关于某 topic 的 review 。从您的回答来看，现在的大模型连归纳总结都还做不好

[jackey007]

@huzhizhao 好的，多谢，我学习一下

[pianoer88]

微信的 ima 知识库可否一战？

[jackey007]

@pianoer88 没用过，可以试一试