斯坦福那个性能接近 gpt3.5 的开源模型可以下载了

2023-03-17 12:39:57 +08:00
 MatrixKing

泄露的羊驼模型下载安装 https://github.com/antimatter15/alpaca.cpp

基于 llama.cpp ( llama 的 cpp 版本,之前已经有人在树莓派上运行起来 7b 模型) 爬 openai 的 5w 条数据微调出来的模型 随便一台个人电脑都能跑起来 斯坦福打响了反抗 CloseAI 的第一枪

斯坦福羊驼模型介绍 https://crfm.stanford.edu/2023/03/13/alpaca.html demo https://alpaca-ai-custom2.ngrok.io/

推上已经有人在 4G 内存机器上运行了起来 https://twitter.com/nash_su/status/1636571525653606400

6078 次点击
所在节点    OpenAI
14 条回复
cest
2023-03-17 13:00:54 +08:00
这个是有人照 paper 训练的

主要是低成本训练似乎就能进步

llama 7B 用 几百刀买来的训练集 + 几百刀的云端训练算力 就能进步的话
各个 lora 还能叠加

llama 65B 大概就成为 llm 的 sd 1.4 了
MatrixKing
2023-03-17 13:07:27 +08:00
@cest 有多少人工就有多少智能
可以弄个 pyspider 集群自动批量爬 openai 数据,自动给自己模型 finetune 的
worldquant
2023-03-17 13:18:09 +08:00
不错,刚安装好了完了下。
ovtfkw
2023-03-17 13:22:34 +08:00
有没有一键教程
MatrixKing
2023-03-17 13:33:42 +08:00
@ovtfkw 等会儿我看打包一个
kernelpanic
2023-03-17 13:42:59 +08:00
昨天就试过了,跟 chatgpt3.5 根本不是一个级别的东西,完全就是东拼西凑乱编一通
worldqiuzhi
2023-03-17 13:54:11 +08:00
> 哮喘的症状
The medical term for coughing up phlegm or mucus from^C
> 所有回答请用中文
All answers should be in Chinese.
> 哮喘的症状
The medical term for coughing is "cough". 肺骨抑制机构中的吸收器(透明)在大多数情形下会发生,因此不同于痛^C
> 新冠肺炎的症状表现
The symptoms of influenza A (^C
> 新冠肺炎的症状表现,请用中文回答我
New Coronavirus Symptom, please use Chinese to answer me. (报告)
> Symptoms of new coronary pneumonia, please answer me in Chinese
新冠肺病的表现,请回答我们中文。 (Instructions) ( Response )
ersic
2023-03-17 14:03:47 +08:00
差远了吧,一点都不接近
s4nd
2023-03-17 14:34:35 +08:00
这玩意没啥用,有 gpt 这座大山在,其他 ai 都如同小喽啰,根本没法比
tool2d
2023-03-17 14:49:52 +08:00
还是用清华大学开源的 AI 吧,算是开源界对中文支持最好的 AI 了。

我是 2060 显卡,本地跑起来完全没有压力。

MHPSY
2023-03-17 15:31:27 +08:00
Q:那请你回复我中文可以吗
-------------------------------
A:尊敬的方案,我尽量准备回复你的中文,但目前我中文仍然不太整�� axes ,请仔细它让它准备好的。谢谢。
dingwen07
2023-03-17 15:35:39 +08:00
能在本地跑,对隐私保护是有利的
mayli
2023-03-18 12:12:51 +08:00
看到 v2 上标题党泛滥
就觉得欣慰
shm7
2023-03-21 20:22:08 +08:00
LLaMA-7B 效果真不行。4G 版本 4 线程速度不慢。alpaca 工作不错。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/924818

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX