带你从头训练一个 LLM

2 月 12 日
 SupDigitalOcean

分享一个自己打造的大模型课程 CookLLM

CookLLM 的目标是把那些生涩难啃的论文、公式,拆解成最美味的佳肴。但我向大家保证,它绝不是一份枯燥的 PDF 或飞书文档。 我看过太多教程,把人埋在文字堆里。但我始终坚信:交互 > 图片 > 文字。cookLLM 的目标是“可把玩” (Playable):我希望你不是在“读”书,而是在“玩”中学习到知识。

为了达到这个标准,我每一章都要同时做三件事:

① 写文档:把复杂的数学原理翻译成“人话”。

② 写代码:构建配套的 Notebook ,确保每一行代码都能跑通。

③ 做交互:开发可视化的组件,让你能亲手拖拽参数,看懂数据流向。

慢就是快,好饭不怕晚。 为了实现这种极致的交互体验,我会用心打磨每一个章节。也许进度不会很快,但我相信慢工出细活。

分享对从头训练 LLM 感兴趣的 V 友

2144 次点击
所在节点    分享创造
22 条回复
achangzhou
2 月 12 日
支持一把,如果没有算力,是否可以做“模拟”训练,会检测训练相关代码是否正确,模拟训练过程。
sungnix
2 月 12 日
感谢分享,学习。
Huramkin
2 月 12 日
大佬 这个有折扣码吗
sillydaddy
2 月 12 日
这个思路很好。不过看了下,似乎透露的信息太少,不登录完全不知道内容是什么,至少把可视化的内容透露出来一些吧。
itechify
2 月 12 日

有点贵 =_=
SupDigitalOcean
2 月 12 日
@Huramkin 现在是 cooking 阶段 所以还是二折早鸟价
SupDigitalOcean
2 月 12 日
@sillydaddy 好建议 后续 on page 页面会增加更多的内容供大家参考
SupDigitalOcean
2 月 12 日
@achangzhou 模拟训练是指什么呀? 没太理解
SupDigitalOcean
2 月 12 日
@itechify 可以查看权益页面 后续更新的代码库+交互式文档的内容还是挺多的
foxi001
2 月 12 日
数学基础薄弱能看懂吗 初中数学的水平
oldlamp
2 月 12 日
https://prashantlakhera.substack.com/p/welcome-to-day-1-of-21-days-of-building

和这个相比确实更友好很多,尤其是语言和排版都有很用心。
楼主加油。
SupDigitalOcean
2 月 12 日
@oldlamp 感谢支持
SupDigitalOcean
2 月 12 日
@foxi001 能看 但是可能会有些吃力
itechify
2 月 12 日
本来想买的结果账号被 ban 了
SupDigitalOcean
2 月 12 日
@itechify 我看一下 应该是后台机制 错误封杀了 已经解除了
shixiaoda
2 月 13 日
看起来不错,能不能试看
guoziq09
2 月 13 日
最近在看 minimind ,这个跟那个有啥区别吗?
Cabana
2 月 13 日
@guoziq09 #17 赞👍, 收藏了~
SupDigitalOcean
2 月 13 日
@guoziq09 区别是 minimind 只是提供代码库 知识不是体系化的 然后我会在 cookllm 中从深度和广度两个维度进行构建 另外就是代码库只是一方面 还有精心打磨的文档
SupDigitalOcean
2 月 13 日
@shixiaoda 试试看可能不太行 因为毕竟是数字资产 也不太可能授予之后 再收回权限哈 但是可以加入 discord 社区群 购不购买都可以 我会在其中 build in public

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1192489

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX