V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
gckend
V2EX  ›  Python

两个占用内存大小 20G+的矩阵做相乘, 10 块 GPU

  •  
  •   gckend · 168 天前 · 3264 次点击
    这是一个创建于 168 天前的主题,其中的信息可能已经有所发展或是发生改变。

    计算逻辑很简单就是: [email protected] 想使用 pytorch 做 GPU 计算,10 块 GPU 的显存都是 10G ,想问问大家有好办法吗?

    14 条回复    2021-12-13 13:19:54 +08:00
    Scirocco
        1
    Scirocco  
       168 天前
    说实话没怎么看明白。。就是普通的矩阵作乘法吗?那感觉没必要用 pytorch 呀?
    gckend
        2
    gckend  
    OP
       168 天前
    @Scirocco 主要是为了方便做 GPU 计算,其他框架也可以
    Scirocco
        3
    Scirocco  
       168 天前
    @gckend #2 或许可以考虑直接用 C 写 cuda 程序?

    不过我也不知道 20G 这么大的矩阵怎么处理,以及多 GPU 怎么一起用。。只能提供思路,抛砖引玉 2333
    miracleyin
        5
    miracleyin  
       168 天前
    如果是稀疏矩阵的话可以通过 TORCH.SPARSE 这样的 api 来写,如果是非稠密的可能得思考为什么会有那么大的矩阵乘法了。
    gckend
        6
    gckend  
    OP
       168 天前
    @mingl0280 谢谢,不过这个并不适合我的场景。

    @miracleyin 是稠密矩阵,应用场景如此,直接乘可能不行,想要找个合适的切割矩阵的方案。
    Juszoe
        7
    Juszoe  
       168 天前   ❤️ 1
    可以考虑用矩阵分块乘法,可以将一次矩阵乘法分步计算,用 pytorch 应该不难实现,同时还能利用多块 GPU
    hbdh5
        8
    hbdh5  
       168 天前
    简单分个块不就可以么,20g+的话分成 2x2 就行了,数据算完就取回内存或者先暂存到磁盘,乘的时候可以用 strassen 算法能减少一次子块乘
    woctordho
        9
    woctordho  
       168 天前 via Android
    原理无非就是分块,可以试试 Dask 这个包
    c0xt30a
        10
    c0xt30a  
       167 天前
    ABx = A(Bx)
    如果有 x 这个向量的话
    zhoujinjing09
        11
    zhoujinjing09  
       167 天前
    分块就行了呀,就要手动分一下
    dayeye2006199
        12
    dayeye2006199  
       167 天前
    这个需要 out of core computation
    不考虑用 GPU 的话可以考虑

    http://xarray.pydata.org/en/stable/dask.html
    或者
    https://docs.dask.org/en/stable/array.html
    zhoujinjing09
        13
    zhoujinjing09  
       167 天前
    或者精度要求不高的话可以考虑半精度,bfloat16 或者 tf32
    necomancer
        14
    necomancer  
       166 天前
    矩阵分块

    |A B| |E F| = | AE+BG AF +BH|
    |C D| |G H| |CE+DG CF+DH|
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2698 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 14:15 · PVG 22:15 · LAX 07:15 · JFK 10:15
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.