GPT4 ALL 本地大模型,无法使用

141 天前
 miaosl
昨天熬夜看短视频的时候发现有个开源的,本地语言模型,GPT4 ALL
项目下载地址:
https://github.com/nomic-ai/gpt4all/releases/tag/v2.5.4
但是视频里别人下载完了装完模型就直接用了
而到我这里下载完模型一校验直接提示:gguf 格式无效无法加载模型
因为提示说原因有很多可能是电脑配置不够,讲道理这些模型下载的时候硬件限制只是内存。
我还特意去下载了几个小模型,最后还是提示这个。
我真不知道为啥。
另外我的笔记本:
R74800H 16GRAM RTX2060
讲道理不应该啊
1380 次点击
所在节点    OpenAI
8 条回复
Terryu
140 天前
我是 mac m1pro 32G ,跑起来没问题; 你换台内存大的试试
cuteguy
140 天前
@Terryu 模型用的是哪个?和 openai chatgpt4 比咋样?
miaosl
140 天前
@cuteguy 运行失败了,可能是我电脑配置不够。但是其他人评测还是没有真正得 gpt 比得
miaosl
140 天前
@Terryu 但是讲道理哪些模型给的配置要求就是个内存,我电脑 16G 但是哪个模型要求 8G 就够了啊
虽然可能就是我电脑配置不足
gw1100
140 天前
@miaosl #4 我试了一下,16G 内存可以用 8G 的版本啊,我还教 ai 学中文呢,现在会说‘你的很棒,谢谢’(乐),就是这 8G 版本仍然有点笨,可能 32G 跑 16G 版本可能会好一些,你什么配置啊,不可能有比我还差的配置了
miaosl
140 天前
@gw1100 我 16Gram 然后跑 8G 啊 4G 啊都提示
Encountered an error loading model:
"Could not load model due to invalid format for replit-code-v1 5-3b-q4 o.ggufi
Model loading failures can happen for a variety of reasons, but the most common causes include a bad file format, an incomplete or corrupted download, the wrong file type, not
enough system RAM or an incompatible model type. Here are some suggestions for resolving the problem:
Ensure the model file has a compatible format and type
Check the model file is complete in the download folder
You can find the download folder in the settings dialog
If you've sideloaded the model ensure the file is not corrupt by checking md5sum
Read more about what models are supported in our documentation for the gui
Check out our discord channel for help
反正就是加载文件有错,但是这些模型都是从他那个软件本身下载得,如果你这个没问题得话
那么有问题得就是它确实是模型得问题,这就奇怪了
话说就是下载软件,然后下载镜像就可以了把
我刚刚发现我目录有 n 个模型但是他只给我显示 4 个
难道是模型得路径有中文导致得?
我改下路径试试
miaosl
140 天前
@gw1100 好的果然是路径有中文导致得哈哈哈哈可以用了
dejavuwind
140 天前
其实这是 GPT4(For) All 吧? 4 是代表 For 吧

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1003734

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX