搭建一套中小型的深度学习平台，大概多钱？

[Sekai]

包括硬件和请专业人员的费用。能够喂大量语料，训练后按要求产出相关文字，类似用 nature 论文训练 gpt 产生摘要这种。非个人，公司用，以后可能商业化。

[swulling]

@Juszoe 别买，OpenAI 的微调不支持 gpt3.5/gpt4 ，只支持基础模型，没啥卵用

[king888]

Colossal-AI: 让 AI 大模型更低成本、方便易用、高效扩展。这个开源的分布式 AI 训练组件库能极大的降低文本和图像训练的硬件成本，在消费级硬件上进行大模型训练。个人 AI 时代可能要加速到来了

https://github.com/hpcaitech/ColossalAI

[rjks2011]

@3img 训练耗电量是否也非常惊人？

[aigonna]

8 张 a100 gpu 加你的数据集 跑起来基本跑满。

[3img]

转自推
================
金融专用大模型：BloombergGPT
500 亿参数，训练成本超过 1300 万，用 AWS64 台 8xA100 训练 53 天完成核心模型训练。
主要实现问答、新闻头条编写、生成 BQL 等
按青云相同配置价格粗略计算训练成本 1300W+
然而不能用来炒股，希望做 AI 自动炒股的可以散了
https://arxiv.org/pdf/2303.17564v1.pdf

[buyno1]

@huigeer github 里那些开源的能在飞浆部署运行吗，colab 实在不行，分分钟断