有懂的兄弟么？这个正常么？小弟第一次自己训练模型[发呆]

[2018yuli]

我自己 (gpt6.1 ╰（‵□′）╯) 基于 transformers 架构训练的 五子棋 AI (模型只有 600k ，6w 个参数)，和 Jev 对战. 当然，我的这个模型，他只下五子棋。后续在训练，每一步都有解释，和 jev 一样，还可以调整模型的性格。

https://www.bilibili.com/video/BV1UBJZ6cEVr

[cat9life]

这个想法很感情兴趣 op 能够分享如何训练吗

[2018yuli]

谢谢支持！其实我是个完全的新手哈，这其实是我利用 GPT 做的一个实验性小项目。

我个人觉得它的核心，是通过经典的落子得分算法作为反馈，来进行反向传播微调。
目前整个训练方案还在闭环验证中，里面主要用到了循环 Transformer 和混合架构。

[KJH]

请教下，过程中是面向 AI 去操作还是自己独立实现，比如 AI 告诉怎么做，就根据 AI 提醒的方向去排查实现

[2018yuli]

代码全部都是 AI 去操作。我是 “产品经理” AI 做完，我还得去问它 “你写的这行是啥意思” (￣_,￣ ) 。

最开始只是脑子里有个想法，试着跑了一下 v1 ，遭到 AI 劝退，这个方向早有人研究过了、有论文了，结论是，没有效果。所以，于是，然后，我在 3 小时内硬是逼着 GPT 从 modelv1 一路狂肝到了 modelv6 ，感觉我需要一个 demo,就写了这个五子棋 AI 。

写完后，就是和 AI 下棋，然后让 AI 去改嘛，有改了 2 次，就下输了。

[zhangli2946]

我的注意力头之看到了， 小弟 训练

[2018yuli]

哈哈哈，可能是我自己戏太多，产生了“我有一个大胆想法”的错觉，哈哈 o(^▽^)┛。

[erquren]

五子棋先下必赢的，不过规则简单，可以作为入门尝试