请问下 github 上有没有哪个 Python 项目使用了 langchain 对接目前市面上所有的大模型的

207 天前
 so2back
之前没写过 python ,现在领导指定框架使用 langchain ,要对接市面上多种大模型实现对话能力,当然还有业务上的一些东西。
我的想法是在 github 上找一个有完整对话功能实现的 python 项目下来学习学习顺便改改,但是上边的项目好像都很大了,对我来说要剥离出来不容易。
有没有 v 友看过一些比较简易或者只有对话功能的项目,分享一下
2109 次点击
所在节点    问与答
15 条回复
ex1gtnim7d
207 天前
使用 langchain ,扣 5 分
so2back
207 天前
@kerb15 #1 哈哈哈哈没办法,领导是不懂的,我也不懂没法给建议,他就是听到这个可以就用这个,无奈
shen13176101
207 天前
看到 langchain 心里一惊,想着那么垃圾的东西也有人用。再次确定后发现我们公司付费用的叫 LangChatPro 。
EdwardXia
207 天前
应该是用 langgraph 吧?
supergeek1
207 天前
langchain 本身就支持各种模型,可以看 chat_models 模块,还有现在大模型的参数基本都是一致的,有 one-api 、new-api 这种模型 api 集成平台,可以接入市面上几乎所有模型
dearmymy
207 天前
现在用 pydantic-ai 感觉比较轻量点
harlen
207 天前
大模型 restful API 几乎都是兼容的,只有 base API 的路径名字不一样,你只需要用 Python 定义个字典,写上 base url 和模型别名就可以了,
t41372
207 天前
用 Python 的直接用 open ai 的 SDK 就行,绝大多数的大模型后端都支持 openai 的 sdk ,支持同一套标准,模型名字 base url 和 API key 一改就能无缝衔接。这包括什么 OpenAI, Gemini, deepseek, 智谱, 硅基流动,还有本地的推理引擎,比如 vllm ,ollama ,llamacpp 之类的。

单纯的与 llm 对话一个几十行一百行的 Python 单文件就能实现,一般不会单独写成项目,你上网搜 openai 的相关教程可能能找的到,或是直接让 ai 给你写个案例代码。如果你不熟悉 Python 记得顺便看一下包管理器,依赖管理,虚拟环境之类的东西。2025 年这套东西可以用 uv 解决,不过 ai 可能还不熟悉最新版本的 uv 。

纯对话的最小代码我没有,不过之前写过一个 gist ,向 LLM 提问 1000 次,让他生成随机数,但生成 0 的概率是 90%,运行结果是跑 1000 次之后所有的结果都是 0 (?)。62 行,配置一改就能换到其他大模型去。

https://gist.github.com/t41372/84f250d2ae3567332fc2b97ed4f868a8

关于 langchain ,我不推荐新手用 langchain ,他会让你的生活很痛苦。
darksword21
207 天前
用这个还不如直接用 python 对接 sdk 或者 api
so2back
207 天前
@t41372 #8 好的,谢谢我看看,其实也不一定要用 langchain ,看这么多人嫌弃我也知道肯定不是最优了哈哈哈
litchinn
207 天前
好奇 langchain 怎么了,很久没关注了,我记得之前接触的时候 langchain 还是应用开发的首选
so2back
207 天前
@litchinn #11 不知道耶,用过的 v 有都很嫌弃的样子,我还是直接选择 openai 了
funky
207 天前
go 也有 langchain ,聚合所有模型不是客户端搞得,类似你少一个 openruter 的网关
aeron
207 天前
市面上的模型基本都提供 openai 接口格式的请求,所以可以直接用 openai 的 sdk ,改下 base_url 就行了。至于对接多种大模型,那是接口网关之类的东西应该干的事
yusf
94 天前
@shen13176101 能说下原因吧,新人不太懂

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1121677

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX