推荐一门我做的开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目并且写一个超强的 ai 项目

2023-02-07 09:40:22 +08:00
 hellozgfss
我是写了一个《从零自制深度学习推理框架》的课程,课程语言是 C++,课程主要讲解包括算子实现和框架设计的思路,国内算是独一份,目前已登上 HelloGithub 最新一期。我这个仓库算是课程的上游项目,根据上游项目来规划课程内容。

b 站视频链接: https://space.bilibili.com/1822828582

github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR 已经发布 Docker

课程可以分为两个季度,现在是第一季共 12 次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 450ms(640*640*3)

课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

第五次课 Im2col 的原理和卷积算子的实现 完成

第六次课 照猫画虎,完成 MaxPooling 算子 完成

第七次课 图结构(PNNX)讲解和计算图初步 完成

第八次课 读取 PNNX 并构建自己的计算图 完成

第九次课 基于广度优先搜索的算子执行流程 未完成

... 更新中,直到带领大家实现一个支持 yolov5 的深度学习推理框架

以下是推理框架的目标检测效果,我们会在课程中慢慢带大家实现


1812 次点击
所在节点    分享创造
10 条回复
x500
2023-02-07 09:45:59 +08:00
支持一波。
hellozgfss
2023-02-07 09:51:49 +08:00
大家觉得有帮助的话, 请(star, issue, pr), 尤其欢迎后两个, 谢谢大家的支持 :)
zhlxsh
2023-02-07 10:35:29 +08:00
这个是不是可以把手机里的照片分类,比如拍人的,拍猫的,其他乱七八糟的都分开
hellozgfss
2023-02-07 10:36:44 +08:00
@zhlxsh 本框架以教学为主,如果是需要实际使用的话可以用腾讯开源的 ncnn,在手机端的优化特别好.
opiviqo
2023-02-07 10:43:29 +08:00
支持一波
RyanLim
2023-02-07 11:18:13 +08:00
支持+1
sakura1
2023-02-07 16:56:14 +08:00
支持
Xzong
2023-02-07 19:26:08 +08:00
支持
gejigeji
2023-02-08 10:21:04 +08:00
支持
zjwgank
2023-02-08 10:34:01 +08:00
支持

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/913807

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX