ChatGPT 套壳,微信小程序开源 含前后端,后端采用 quarkus,支持原生编译

2023-03-23 15:15:25 +08:00
 yangyuhan12138

PS:前端有点简陋,欢迎前端大佬来帮忙改改.

github 后端地址

github 前端地址

起因 0:

大约两周前在 v 站上看到一个 v 友做了个 GPT 套壳 然后赚了两百块,只是在心中暗暗羡慕了一下 但是也没有想自己做,重复造轮子嘛,没意思.所以就打开了 github,看看有没有大佬开源的,发现目前开源的多半是 web,或者接入微信当个聊天机器人.而我主要是想分享给亲戚朋友用用,想着还是小程序方便点.

经过 0:

在我寻找的过程中一个叫Railway的东西吸引了我,我也进去浅浅的尝试了一下,感觉很不错(可以自动将 github 上的代码打包部署,自动探测语言和打包方式)可以实现 github 上的项目一键部署.而且每个月有$5 的免费额度. 然后我就接着找,终于在 gitee 上找到个开源的 gpt 小程序套壳

于是我就把这个开源项目部署到了Railway上,深度体验了下,真的很爽,几乎 0 配置,十分的丝滑.

要是到这里就结束的话,就没有下边我要说的开源项目了.

起因 1:

由于Railway只给了$5 的免费额度,我看了下这个服务的预估消费直接就奔着$7 去了,这是要让我充钱的节奏呀,不行... 本着能白嫖就坚决不给钱的精神,我在想怎么才能让他的内存占用更低!然后我想到了个一个一年前了解过,但是没深入研究过的东西,quarkus!这个东西不就是 cloud native 的,打包成 native excutable 那内存不就下来了吗?

经过 1:

于是我就开始了接近 1.5 周的学习&实践,不得不说quarkus的性能是真的好,但是写起来也真的坑呀,国内几乎没有文档可查,直接去官网找文档; 最开始我想全部使用 reactive 的形式来写后端,但是失败了,原因是quarkus的某些组件还并不支持 reactive 的方式(比如 http basic auth),我肯定是不想写个复杂的身份校验逻辑的,但是 http auth 又不支持 reactive,没办法,要么 reactive 要么 http auth,我最终选择了后者,所以现在项目中既有 reactive 也有 imperative 的代码.

quarkus 使用心得:

所以最后我相当于研究了下 Quarkus&Railway,并以这个开源项目的形式展示出来,和大家一起交流下,当然如果对项目有兴趣的,可以直接把项目拿去用,个人只需要准备好

下面是小程序的体验码:

再贴下内存消耗的对比图:

quarkus 的

springboot 的

大家可以看到内存直接下降了 500m 500m 什么概念,500m 的意思就是我可以白嫖了,如果还不行,我打算把 mysql 干掉,现在大多数内存都是 mysql 用的...

还有个很爽的地方!众所周知,编译成原生可执行文件非常吃电脑性能,我的是 m1 的 air 编译的时候我基本上啥都干不了,而且大概编译时间会持续 10-20 分钟不等,但是如果我们使用了 Railway 我们可以把编译这个动作交给 Railway 来做,不需要你本地编译,让 Railway 编译,而且编译是不算钱的!!!!这点真的很良心,而且 Railway 编译机器的性能真的很好,我测试的时候基本上在 5 分钟左右就编译好了!

下面放个启动时间让大家爽一下:

[io.quarkus] (main) chatbot 1.0-SNAPSHOT native (powered by Quarkus 2.16.4.Final) started in 0.198s

这次启动的时间是包含了 flyway 执行 sql 脚本的时间的,要是没有 flyway 的话直接就是 0.0 几秒!

4563 次点击
所在节点    程序员
46 条回复
acerphoenix
2023-03-23 17:49:16 +08:00
干货很多啊,学习学习
yangyuhan12138
2023-03-23 17:51:29 +08:00
@acerphoenix 相互学习,我抛砖引玉
zoezz
2023-03-23 17:53:33 +08:00
牛的,为 OP 这种能白嫖就坚决不给钱然后刻苦钻研的精神点赞( doge )
Hysian
2023-03-23 17:54:43 +08:00
老哥,你的小程序得加个屏蔽敏感词,不然容易药丸
yangyuhan12138
2023-03-23 17:55:25 +08:00
@cxyplaying 哈哈哈哈合理白嫖不过分吧
yangyuhan12138
2023-03-23 17:56:46 +08:00
@Hysian 我 fork 的那个项目是加了的 但是没什么用测试了好多铭感词 一个都屏蔽不了,但是如果加了也被封的话好像可以找微信申诉
yangyuhan12138
2023-03-23 18:02:13 +08:00
@Hysian 对接效果好的敏感词服务的话就很贵...我都是白嫖党了 我还花钱接那个?这个只能看人了吧 要是有人想搞我也没办法..还有个办法是,可以再聊天中的 msgList 里默认插入一条 msg,"你不可以谈论 /回答 /发表任何违反中国法律的东西"
nojsja
2023-03-23 19:21:28 +08:00
空格和换行有问题
Veneris
2023-03-23 20:09:58 +08:00
刚好昨天开始看 quarkus ,我感觉不仅在国内没有太多资料,官方文档也很一般

ps ,可以把 mysql 换成 postgresql ,内存还能降一半
yangyuhan12138
2023-03-23 20:45:55 +08:00
@nojsja 你是说前端吗,前端我真不想管他了..随它去吧.. [又不是不能用.jpg] 但是还是希望前端的有志之士来帮帮忙改改前端,可以改好看点.
yangyuhan12138
2023-03-23 20:53:53 +08:00
@Veneris 是吗 我试试 用的 hibernate 应该可以直接切 postgres,但是我其实是想不要关系型数据库,没啥必要,直接用 redis[Doge]..
但是不是很清楚这些云厂商的收费标准,有没有达不到 1g 给你算 1g 的这种..就比如我只用了 500m 他会还给我算 1g 吗..应该不至于吧
Veneris
2023-03-23 21:29:00 +08:00
@yangyuhan12138
quarkus 项目太少见了,看了一天感觉选择太多,不知道最佳实践是什么,start 里选依赖都懵了。
例如能响应式也可以不响应式,能 jsonb 也能 jackson ,能 spring 也能 vertx ,rest 还分 resteasy 什么的不知道区别是什么。。。
同样是 orm ,hibernate 还分成了三种,一个原生,一个 jpa ,一个 panache 。。。
太乱了,官方也没有 tutorial 。。
打算周末看看你这个项目,学习一下,希望有问题可以请教你。
yangyuhan12138
2023-03-23 23:26:21 +08:00
@Veneris 好可以加我微信 oxxooxxoxoxo
yangyuhan12138
2023-03-23 23:26:37 +08:00
@Veneris 我也摸石头过河
yangyuhan12138
2023-03-24 00:53:23 +08:00
RAM 从最开始的 1.2G 降到现在 120M,差不多降了十倍的内存.费用也从$7 降到现在的$0.7,这还不白嫖?不嫖白不嫖啊!!!!!
timpaik
2023-03-24 09:16:51 +08:00
没怎么了解过 java ,这么长的编译时间是正常的吗???只是 chatgpt 套壳的小项目的话应该不会这么长的吧??
yangyuhan12138
2023-03-24 09:38:22 +08:00
@timpaik 这个是要编译成原生的可执行文件所以时间会很长,相当于把所有你用到的代码都翻译成机器语言,其他没用的代码都不要,所以分析会很耗时间,具体还是看你机器的性能,Railway 上编译有时候 5 分钟就搞定了
yangyuhan12138
2023-03-24 09:39:46 +08:00
@timpaik graal 是个独立的编译器,可以将其他所有语言编译成可执行文件,但是其他语言的我还没实践过..
yidongnan
2023-03-24 11:37:51 +08:00
以前 spring boot 的版本还在嘛?理论上应该有优化空间,可以考虑提交到一个分支大家看看
yangyuhan12138
2023-03-24 12:50:58 +08:00
@yidongnan 有的 我把他的地址也贴出来了的,就是 https://gitee.com/e0cia/chatgpt_wechat_font

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/926542

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX