如果是 3-5 个人自己搭开源模型用什么好？

[gtese]

openwebui 有时候会卡住。
有推荐吗？

[wentx]

comfyui ?

[gtese]

@wentx 不玩生图和视频，只是 gpt 。

[yinmin]

Ollama+LobeChat

开源大模型能达到 GPT 水平的，基本要 700 亿以上参数的 AI 模型，例如：qwen2(72B)，对服务器硬件要求不低哦。

[lekai63]

目前用 librechat
利用 hf 、mongo 服务，railway 之类打个配合，确实可以做到不用出自己的服务器

[gtese]

@yinmin 手里 2 路 4210 ，256g ，rtx5000 不要求 72b 。14 ，22 就可以了

[kangfenmao]

Ollama + Cherry Studio

💡模型支持：

1. OpenAI
2. SiliconFlow
3. deepseek
4. 零一万物
5. 智谱 AI
6. 月之暗面
7. OpenRouter
8. Groq
9. Ollama
10. 百川智能
11. 阿里云 DashScope
12. AiHubMix
13. Anthropic

https://hao.logosc.cn/p/3748

[yinmin]

试试这个组合，体验度不错的：Ollama + one api + ChatGPT-Next-Web
或者 Ollama + ChatGPT-Next-Web

[hkshawn]

给你个免费的 别纠结了

api.66d.eu

[gtese]

@hkshawn 广告滚粗

[hkshawn]

@gtese 有本事你别用啊

[gtese]

@hkshawn 有本事的门槛这么低。。。。笑。。。。