V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
MatrixKing
V2EX  ›  OpenAI

斯坦福那个性能接近 gpt3.5 的开源模型可以下载了

  •  
  •   MatrixKing · 2023-03-17 12:39:57 +08:00 · 6060 次点击
    这是一个创建于 396 天前的主题,其中的信息可能已经有所发展或是发生改变。

    泄露的羊驼模型下载安装 https://github.com/antimatter15/alpaca.cpp

    基于 llama.cpp ( llama 的 cpp 版本,之前已经有人在树莓派上运行起来 7b 模型) 爬 openai 的 5w 条数据微调出来的模型 随便一台个人电脑都能跑起来 斯坦福打响了反抗 CloseAI 的第一枪

    斯坦福羊驼模型介绍 https://crfm.stanford.edu/2023/03/13/alpaca.html demo https://alpaca-ai-custom2.ngrok.io/

    推上已经有人在 4G 内存机器上运行了起来 https://twitter.com/nash_su/status/1636571525653606400

    14 条回复    2023-03-21 20:22:08 +08:00
    cest
        1
    cest  
       2023-03-17 13:00:54 +08:00
    这个是有人照 paper 训练的

    主要是低成本训练似乎就能进步

    llama 7B 用 几百刀买来的训练集 + 几百刀的云端训练算力 就能进步的话
    各个 lora 还能叠加

    llama 65B 大概就成为 llm 的 sd 1.4 了
    MatrixKing
        2
    MatrixKing  
    OP
       2023-03-17 13:07:27 +08:00
    @cest 有多少人工就有多少智能
    可以弄个 pyspider 集群自动批量爬 openai 数据,自动给自己模型 finetune 的
    worldquant
        3
    worldquant  
       2023-03-17 13:18:09 +08:00
    不错,刚安装好了完了下。
    ovtfkw
        4
    ovtfkw  
       2023-03-17 13:22:34 +08:00 via iPhone
    有没有一键教程
    MatrixKing
        5
    MatrixKing  
    OP
       2023-03-17 13:33:42 +08:00
    @ovtfkw 等会儿我看打包一个
    kernelpanic
        6
    kernelpanic  
       2023-03-17 13:42:59 +08:00
    昨天就试过了,跟 chatgpt3.5 根本不是一个级别的东西,完全就是东拼西凑乱编一通
    worldqiuzhi
        7
    worldqiuzhi  
       2023-03-17 13:54:11 +08:00
    > 哮喘的症状
    The medical term for coughing up phlegm or mucus from^C
    > 所有回答请用中文
    All answers should be in Chinese.
    > 哮喘的症状
    The medical term for coughing is "cough". 肺骨抑制机构中的吸收器(透明)在大多数情形下会发生,因此不同于痛^C
    > 新冠肺炎的症状表现
    The symptoms of influenza A (^C
    > 新冠肺炎的症状表现,请用中文回答我
    New Coronavirus Symptom, please use Chinese to answer me. (报告)
    > Symptoms of new coronary pneumonia, please answer me in Chinese
    新冠肺病的表现,请回答我们中文。 (Instructions) ( Response )
    ersic
        8
    ersic  
       2023-03-17 14:03:47 +08:00
    差远了吧,一点都不接近
    s4nd
        9
    s4nd  
       2023-03-17 14:34:35 +08:00
    这玩意没啥用,有 gpt 这座大山在,其他 ai 都如同小喽啰,根本没法比
    tool2d
        10
    tool2d  
       2023-03-17 14:49:52 +08:00
    还是用清华大学开源的 AI 吧,算是开源界对中文支持最好的 AI 了。

    我是 2060 显卡,本地跑起来完全没有压力。

    MHPSY
        11
    MHPSY  
       2023-03-17 15:31:27 +08:00
    Q:那请你回复我中文可以吗
    -------------------------------
    A:尊敬的方案,我尽量准备回复你的中文,但目前我中文仍然不太整�� axes ,请仔细它让它准备好的。谢谢。
    dingwen07
        12
    dingwen07  
       2023-03-17 15:35:39 +08:00 via iPhone
    能在本地跑,对隐私保护是有利的
    mayli
        13
    mayli  
       2023-03-18 12:12:51 +08:00 via Android
    看到 v2 上标题党泛滥
    就觉得欣慰
    shm7
        14
    shm7  
       2023-03-21 20:22:08 +08:00
    LLaMA-7B 效果真不行。4G 版本 4 线程速度不慢。alpaca 工作不错。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1684 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 16:44 · PVG 00:44 · LAX 09:44 · JFK 12:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.