给 LM-Studio Server API 做了个代理,增加联网搜索能力

230 天前
 nocmt

效果(图片不够清楚,但功能是实实在在的):

背景:最近在用 Cherry Studio 客户端,但没联网搜索功能,于是用 Cursor 写个脚本支持代理( AI 生成的也需要自己改改代码和调试),Python 写的,支持本地运行或者 Docker 一键部署。

目前感觉效果还可以,开源给大家用用,期望多多 Star 。

联网搜索逻辑:

Chat 客户端发送内容中携带 #search 、/search 、/ss 或 #ss 强制开启联网搜索,否则由模型自行判断。

目前支持搜索引擎:

本地模型服务:

或者其他兼容 OpenAI API 的服务,就代理了几个 API 。

开源地址:https://github.com/nocmt/LLMSearchPlus

1746 次点击
所在节点    分享创造
10 条回复
xialaoban
230 天前
docker 需要可访问外网的能力
nocmt
230 天前
@xialaoban 桥接模式就行了
miaoxiaomayi
22 天前
就是搞了这个 使用 lm studio 的时候 他就会联网了?
nocmt
21 天前
miaoxiaomayi
21 天前
@nocmt star
miaoxiaomayi
21 天前
现在日常用和给笔记应用和阅读软件用 啦去哪些模型比较不错啊? 我是 64g 的 m4 studio
miaoxiaomayi
19 天前
searxng 的配置文件,具体在 .searxng 目录下,有一个 secret_key 需要手动生成,根据系统的不同执行命令不一样,只需要生成 1 次。

我是 mac 系统 这个 .searxng 从哪找呀
miaoxiaomayi
19 天前
还是说 我部署 docker compose 前 输入
sed -i "s|ultrasecretkey|$(openssl rand -hex 32)|g" .searxng/settings.yml
这个命令 然后直接启动 compose 就好了
nocmt
14 天前
@miaoxiaomayi #7



就在项目目录。
nocmt
14 天前
@miaoxiaomayi #8 对,这样就会直接生成

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1110572

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX