本地部署 LLM 并启用网络搜索,有什么现成的方案吗?

211 天前
 villivateur

目前我在用 chatbox ,另外知道有这么个仓库:

https://github.com/searxng/searxng

1579 次点击
所在节点    Local LLM
5 条回复
cwcc
211 天前
之前试过 Open-WebUI ,但不知道为什么联网搜索失败率太高了,基本上十次有一两次搜索成功的。也蹲一个。
luchenwei9266
211 天前
Cherry studio
villivateur
211 天前
@luchenwei9266 感谢,刚刚研究了一下 cherry studio + tavily ,可以用
YsHaNg
211 天前
@cwcc open webui google pse 没有问题 并发 10 查询结果 10
coefu
210 天前
searxng+firecrawl 完全本地部署,不需要 online key ,searxng 最新版本攘括了国内搜索厂商,不需要再部署在 gwf 之外。唯一的短板就是 firecrawl 在大并发量的情况下容易被搜索引擎 ban ip ,但是可以设置 proxy ,但是稳定的 proxy 不好找。不过好消息是,仅自己个人使用的情况下,被 ban ip 的概率还是很低的。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1120555

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX