V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
winglight2016
V2EX  ›  程序员

深度学习就是学习高数吗?

  •  
  •   winglight2016 · 2017-09-10 17:13:29 +08:00 · 10013 次点击
    这是一个创建于 2413 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我是零基础,正在学习 Andrew Ng 的课程,已经看到第三周的视频了,从头到尾都是数学公式推导,我已经不知道是在学习什么了?

    45 条回复    2019-08-25 18:04:59 +08:00
    snnn
        1
    snnn  
       2017-09-10 17:28:05 +08:00   ❤️ 1
    主要是你之前欠的太多了。那些不是高数。有一大部分是概率论和数理统计的知识。机器学习的课程肯定是从线性回归开始的。
    wohenyingyu02
        2
    wohenyingyu02  
       2017-09-10 17:34:55 +08:00
    不是学习英语么
    misaka19000
        3
    misaka19000  
       2017-09-10 17:39:45 +08:00
    主要是线性代数、概率论与数理统计
    yemenchun1
        4
    yemenchun1  
       2017-09-10 17:40:18 +08:00
    他那个课已经很友好了, 公式还算简单, 也比较少. 到后面优化部分看论文, 求梯度, 对于不用的函数, 梯度都要分别推导.
    yemenchun1
        5
    yemenchun1  
       2017-09-10 17:40:38 +08:00
    不同的函数
    Hzzone
        6
    Hzzone  
       2017-09-10 17:43:09 +08:00 via iPhone
    概统和线代,而且是非常基础的知识,我觉得你有必要去复习一下这方面的东西了,而且吴恩达上的是机器学习,深度学习只是很小的一部分。
    murmur
        7
    murmur  
       2017-09-10 18:18:43 +08:00
    线代和概率那是基础 你想学深了叫矩阵理论和随机过程
    lzhCoooder
        8
    lzhCoooder  
       2017-09-10 18:20:41 +08:00
    深度学习没什么数学基础吧...如果你说的是机器学习的话,都是一些简单的初等积分问题啊
    jmc891205
        9
    jmc891205  
       2017-09-10 18:54:09 +08:00
    想从调包开始学的话 Andrew 的课不是个好选择。。。
    davy1995
        10
    davy1995  
       2017-09-10 19:03:28 +08:00 via iPad
    Ng 的课公式推导明明那么少。。。
    txlty
        11
    txlty  
       2017-09-10 19:06:42 +08:00
    我是从科普层面来学的,不过目前市面上没有这种教程。只能搜集一堆科学家写好的代码,和自己的数据对接上。一个一个试,根据参数的变量名,找出参数的中文名词。再搜索这些名词,看那些论文,做为辅助理解。各种改参数,一遍一遍跑,对比预测准确率,以理解这些算法的用法。
    至于算法内部的数学原理?从没想过去了解,更没想过改进这些算法。我要是那块料,就不是现在的学历了。
    codeyung
        12
    codeyung  
       2017-09-10 19:38:20 +08:00 via iPhone
    大学线代 和概统
    dryadent
        13
    dryadent  
       2017-09-10 19:41:54 +08:00
    ng 的课程真的解释很详细了,公式推导的内容不是很强啊
    v1024
        14
    v1024  
       2017-09-10 19:54:31 +08:00 via iPhone
    楼上各位都太牛了,学渣给楼上大牛投以崇拜眼神
    ivechan
        15
    ivechan  
       2017-09-10 19:58:58 +08:00
    如果你觉得高数知识(线代和概统)很无聊的话, 可能这个更适合你,而不是看视频。
    视频贵在和讲课者之间的交流,有一个引导的过程。
    吴恩达的 notes: http://cs229.stanford.edu/materials.html
    这个 notes 把基础数学知识都分开了。
    ivechan
        16
    ivechan  
       2017-09-10 20:00:29 +08:00
    @txlty tensorflow 的教程就是很科普的教程吧,基本不涉及数学知识。只有名词
    gladuo
        17
    gladuo  
       2017-09-10 20:05:51 +08:00
    讲真。。。你不去学量子力学而去搞机器学习只是因为很火 /似乎跟搬搬砖差不多。。。
    其实,差的还挺多的。
    觉得不适合,那应该就是真的不适合。
    winglight2016
        18
    winglight2016  
    OP
       2017-09-10 20:31:04 +08:00
    @snnn 我说高数不是特指高等数学,而是包括了高数、概率、线代这些课程,至少课程名字我是记得的
    @wohenyingyu02 网易有带中文字幕的课程,不带字幕术语起来理解太困难了

    @yemenchun1 课程是可以的,能听懂,但是看了二十多节课都是纯理论公式,感觉有点难以结合代码编程

    @Hzzone 如果你是在看的课和我一样,课程全部名称是:神经网络和深度学习(coursera 上是 deep learning)

    @davy1995 我看到第三周 3.8 课,除了概念介绍,还没有不是公式和推导的内容

    @txlty 我的学习习惯是先从整体框架和理论开始了解,然后再看怎样在实践中应用

    @ivechan 线代和概率的基础课程我打算另外找书来看

    @gladuo 讲真,i can't get what you said
    huybery
        19
    huybery  
       2017-09-10 21:07:17 +08:00
    ng 的 deep learning 还没来得及看, 如果你觉得推导过于多可以去尝试 coursera 上 ng 的另一门课 machine learning。那个是有实践的,需要用 matlab 交作业,把那一套流程熟悉一下再看现在的就不会有这么突兀的感觉了。
    eccstartup
        20
    eccstartup  
       2017-09-10 21:10:37 +08:00 via iPhone   ❤️ 1
    学的是哲学思想
    charadeyouare
        21
    charadeyouare  
       2017-09-10 21:21:02 +08:00
    会方向导数和梯度就够了
    em70
        22
    em70  
       2017-09-10 21:23:06 +08:00
    等你学会,这个领域可能已经不火了,先把基础打好吧,学自己有狂热兴趣的东西,别跟风
    notreami
        23
    notreami  
       2017-09-10 21:26:41 +08:00
    就是知道用来干啥,然后配置 lib。配通了,改改入参,出参。
    大部分人其实连快排都写不来,就去摊大数据、深度学习、人工智能这摊子浑水了
    vegito2002
        24
    vegito2002  
       2017-09-10 21:41:08 +08:00
    稍微好点的学校都是这样的, 大部分课程基本不会教你写代码. 把 algorithm 和 computation 自己转化到代码是这些学校对学生最基本的期望, 自己有时间自己弄就行了; 课程上面, 跟多的给你学的是思想, 概念, 原理, 证明; 偶尔真的教你写代码也是教一些 OCaml, prolog 这种相对象牙塔的语言.
    Lattez
        25
    Lattez  
       2017-09-10 21:50:31 +08:00 via Android
    建议先看看 Ng 那个机器学习的入门视频,然后再看深度学习的
    Nitroethane
        26
    Nitroethane  
       2017-09-10 21:51:14 +08:00 via Android
    概率论和随机过程
    est
        27
    est  
       2017-09-10 23:50:43 +08:00   ❤️ 1
    记得十年前有个初中出来的小伙子看我弄 Flash

    他的问题是:做个动画怎么还需要数学里的坐标系知识。。。。。

    然后就没有然后了。
    neoblackcap
        28
    neoblackcap  
       2017-09-11 00:08:00 +08:00
    @vegito2002 其实大学多接触点象牙塔的东西挺好的,毕竟工业界也需要象牙塔的理论作为支撑。而且象牙塔的东西搞不好就向工业界扩散了,到时就成了自己的优势了。
    好比以前都是吹面向对象,现在连前端都鼓吹函数式编程,这在我看来就是象牙塔向工业界的传播了。
    kuhung
        29
    kuhung  
       2017-09-11 00:19:02 +08:00 via Android
    我的学习路线是,从调包到推导😂
    googlevoice8
        30
    googlevoice8  
       2017-09-11 00:21:43 +08:00 via iPhone
    不全是吧!
    vegito2002
        31
    vegito2002  
       2017-09-11 00:39:02 +08:00 via iPad
    @neoblackcap 是这样的, 就跟 SICP 这个东西一样, 学的时候一个劲的骂没用, 学完了莫名其妙就感觉自己的思考方式改变了;
    n6DD1A640
        32
    n6DD1A640  
       2017-09-11 01:03:42 +08:00
    当年 Udacity 那个 AI 入门课程,看了两周,完全跟不上,然后回去重新学概率。。。
    secondwtq
        33
    secondwtq  
       2017-09-11 02:32:47 +08:00
    @vegito2002 MIT 貌似换 Python 了
    lrxiao
        34
    lrxiao  
       2017-09-11 02:37:03 +08:00
    @secondwtq UCB 吧
    winglight2016
        35
    winglight2016  
    OP
       2017-09-11 08:02:54 +08:00
    @em70 你是觉得我要用 20 年学会,还是两三年内深度学习就会消失呢?

    @notreami 我学这个不仅仅是用于跑 demo,还有更高的期望

    @huybery 我感觉 python 应用范围更广一些,MATLAB 可能更适合理论研究
    javacodecreeks
        36
    javacodecreeks  
       2017-09-11 09:23:38 +08:00 via iPhone
    那些不是高数好吗,数理统计和概率论里面的知识,不过我们大学学的是基础而已!
    omygod
        37
    omygod  
       2017-09-11 11:26:55 +08:00
    高数是统计学和概率学的基础
    wzh015
        38
    wzh015  
       2017-09-11 12:22:11 +08:00
    不仅仅是高数哦
    pcx3802482
        39
    pcx3802482  
       2017-09-11 12:30:14 +08:00
    推荐你先去 Y2B 上把台大李宏毅老师的视频看完,再看 Ng 的。
    winglight2016
        40
    winglight2016  
    OP
       2017-09-11 12:50:08 +08:00
    @pcx3802482 搜了一下,有人搬到哔哩哔哩上了,看每课名称似乎讲得更泛一些
    deadblock
        41
    deadblock  
       2017-09-11 14:54:24 +08:00
    我数学不错的,可以学这个么
    echo1937
        42
    echo1937  
       2017-09-11 15:36:42 +08:00
    其实这个课程挺不错的,程序猿学点数学挺好。
    takato
        43
    takato  
       2017-09-11 16:03:46 +08:00
    线代,统计,图论,神经科学,生物……………………

    唔- -其实是哲学来着。。。
    winglight2016
        44
    winglight2016  
    OP
       2017-09-11 17:41:52 +08:00
    @deadblock 有兴趣和时间就可以

    @echo1937 这课程基本不怎么教数学理论,想学数学还是要另外找资料

    @takato 不是玄学吗?
    GrayXu
        45
    GrayXu  
       2019-08-25 18:04:59 +08:00
    基础线代和概率论不会 == 调参侠
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2164 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 00:32 · PVG 08:32 · LAX 17:32 · JFK 20:32
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.