V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Recommended Services
Amazon Web Services
LeanCloud
New Relic
ClearDB
admin268
V2EX  ›  云计算

阿里云 OSS 删除文件有多慢

  •  
  •   admin268 · 150 天前 · 2706 次点击
    这是一个创建于 150 天前的主题,其中的信息可能已经有所发展或是发生改变。

    阿里云 oss,上传嗖嗖的,上次说的下载拉胯,下载 5TB ,流量费好几千,现在发现删除更要命,1 秒大约删除 1000 个文件,5TB 存的图片,每个图片 10kb ,510241024*1024 ,53687 万个文件,536870 秒,大约 6.2 天,如果是 500TB ,删除文件就需要 620 天,大约 2 年。。。

    删除方法(网页上点击根目录的一个文件夹,选择彻底删除,就是这么慢,其他方法没试过)

    8 条回复    2022-06-30 23:55:18 +08:00
    LeeReamond
        1
    LeeReamond  
       150 天前
    我觉得你这个数据量需求也比较夸张,图片还要做到每秒 1000 的增删 io 已经挺快了。。
    Moker
        3
    Moker  
       150 天前   ❤️ 1
    设置生命周期 自己删除
    jayin
        4
    jayin  
       150 天前
    用 ossutils
    8520ccc
        5
    8520ccc  
       150 天前
    肯定要用 API 啊
    nightwitch
        6
    nightwitch  
       150 天前
    删除规则

    OSS 支持手动或者自动删除单个或多个文件,删除规则说明如下:

    手动删除
    删除单个文件

    您可以通过 OSS 控制台、命令行工具 ossutil 、SDK 、图形化管理工具 ossbrowser 的方式删除单个文件。
    删除多个文件

    通过 OSS 控制台一次最多可删除 100 个文件,通过 SDK 一次最多可删除 1000 个文件,通过命令行工具 ossutil 以及图形化管理工具 ossbrowser 一次最多可删除的文件个数无限制。
    自动删除

    如果需要删除的文件数目较多,且删除的文件有一定的规律,例如需要定期删除指定日期之前的文件,指定前缀的文件,又或者需要清空整个 Bucket 内的所有文件。此时,推荐您配置生命周期规则自动删除文件。生命周期规则配置完成后,OSS 会根据规则自动删除指定文件,从而减少您发送删除请求的次数,以提高删除效率。更多信息,请参见生命周期规则介绍。
    LoNeZ
        7
    LoNeZ  
       150 天前
    问下 QPS 限制呗,看看能不能提高这个上限。
    wsseo
        8
    wsseo  
       150 天前
    不要用页面操作,批量删除甚至会卡死
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   3806 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 38ms · UTC 05:19 · PVG 13:19 · LAX 21:19 · JFK 00:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.