如何快速压缩 40T 的图片

2020-09-15 15:50:24 +08:00
 zuiluo
40T 图片都在 aliyun OSS 上,想把这 40T 都压缩一遍,绝大部分图片都在少数几个文件夹内,目前方案相当龟速。。

有什么好的策略推荐的么
1810 次点击
所在节点    问与答
11 条回复
shoaly
2020-09-15 18:36:42 +08:00
直接将 oos 挂在一台主机上面 然后搞个命令行的多线程压缩软件就可以开撸了
dtgxx
2020-09-15 18:42:14 +08:00
压缩之后,未来 lz 还会发个帖子:如何快速解压被压缩的 40T 图片
des
2020-09-15 18:44:33 +08:00
aliyun 提工单 ✅
自己瞎搞 ❎

40T 不是个小数目了,光你下载下来就要很久了,就别说压缩了
如果是用 oss 提供的压缩 api 的话,估计也得花不少钱
最后还是建议提工单问问
lower
2020-09-15 18:53:48 +08:00
好奇楼主为啥要压缩?
是费用贵还是要 down 下来?
weak
2020-09-15 22:05:54 +08:00
提工单,叫阿里云拷贝一下,快递到你家,拿一台 128 线程的服务器,开机几天压缩一下,再快递回阿里云
shakoon
2020-09-15 23:21:22 +08:00
需求描述明显有歧义。是需要逐一对图片进行压缩以减少单个文件的大小并保证文件继续可用,还是将其使用压缩工具整体打包以进行归档或者迁移?
undeflife
2020-09-15 23:48:43 +08:00
oss 支持 url 加处理参数访问来节约流量 为啥还要自己压缩?本身 oss 的存储成本算低的
压缩质量不要求精确的话 可以类似 img@100w_100h_90Q.jpg 带处理参数的爬一边然后再上传
nolo
2020-09-16 00:29:58 +08:00
函数计算
kangsheng9527
2020-09-16 00:49:22 +08:00
没必要压缩啊,,,直接租用一台 50Tb 以上服务器备份即可。。。压缩浪费时间。。。省不了多少空间。
em70
2020-09-16 00:54:45 +08:00
@undeflife #7 +1 ,oss 自带图片处理服务,输出的时候可以压缩,剪裁,水印,旋转,速度极快,用户无感知,且几乎免费,没有任何必要压缩原始图片,除非想节约空间储存费用
zuiluo
2020-09-16 09:16:22 +08:00
为什么要弄这个需求,因为空间占用高,每个月花费大几千。上面有人说到了使用 OSS 的 api 压缩,这个图片处理也是花钱的,每个月也花大几千。所以。。。


再加上最近没什么事情吧,帮公司省点钱也是挺好的。


我目前的方案,使用一台服务器走内网下载(内网下载上传都是不花钱的 2333),先统计到数据库,对图像数据集先做归类,宽高大小,方便后面调用( OSS 自带的 API 查询真的是太简单了)

记录到库之后,再逐一对图片进行压缩,将原图备份,压缩图替换。

这里唯一难点就速度问题,目前备份统计已经开了几十个线程同时跑,内网带宽拉满的情况下,估计还要跑好几天才能跑完,不过对时间不是很紧急,批处理程序调试稳定之后让他挂着跑就好了

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/707217

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX