Botastic：一个自用 LLMs AI 框架，支持类似 ChatGPT 的 Plugin 的模式引入外部数据

[lyric]

动机是这样的：

1. OpenAI 的 LLMs 在生成知识和推理方面非常出色，因为它们预先训练了大量公开可用的数据。
2. 但是实际应用中，我们需要 LLMs 能够对我们自己的数据进行推理。
3. 对模型搞 fine-tuning 需要很多数据，而且很贵，而且很多场景并不需要用到 fine-tuning 。
4. 把外部数据嵌入 LLMs 是一个目前最常用的解决方案。包括 OpenAI ChatGPT Plugins, LlamaIndex 都是用的类似方案。Botastic 也通过 Middleware 支持。
5. 我们做 Botastic 的目标是解决自己搞 AI 小程序的需求，而且我们的技术栈是 Go 。总之会长期支持。
6. 旨在提供开箱即用的解决方案，包括对接 OpenAI （未来还会对接其他 LLMs 和支持内置模型，毕竟不能只依赖 OpenAI ），支持 Restful API 方便现有系统调用等等。
7. 支持自己托管（开源的嘛）

详细的情况可以看看源码的 repo: https://github.com/pandodao/botastic （希望能给我多多🌟谢谢：）

另外我还写了个接入教程： https://developers.pando.im/guide/botastic.html

两个 showcases:

• Ask Vitalik: A digital avatar of Vitalik Buterin.
• Ask Scott Alexander: A digital avatar of Scott Alexander.

[shuxiaokai]

已 Star ⭐ 加油！

[lovestudykid]

相比于自己用 llama_index 有什么好处呢？

[lyric]

@lovestudykid 可以十几分钟部署一个完整的服务给第三方用

[takatost]

这不是 plugin 吧，这是 chain 的概念，如果是 plugin ，middleware 就不会是这样顺序执行的了，前一个输出作为后一个输入，而是可以自动选择用什么工具

[lyric]

@takatost 本质上是一样的

[l0wkey]

看很多方案都是基于向量的，咨询个情况：针对中英混合材料，用中文提问，或者相反情况。向量化的搜索效果是不是会不太好..

比如材料里面写
-API 限制:10 QPS
提问时候问
-接口的每秒请求数是限多少

[lyric]

@l0wkey 它会理解你说的“每秒请求数”指什么。然后会回答类似“接口的每秒请求数限制为 10 QPS”这样的话

[l0wkey]

@lyric 嗯 理想状态下是的，但是实际使用，有时候会匹配不到..不知道是不是语料的语言和提问的语言不一样

[lyric]

@l0wkey 嗯，根据我的经验可能是 prompt 或者语料的问题