大量 zip 压缩包，每一个都很小， 10M 以内，如何利用 MapReduce 实现快速解压呢？

2018-11-15 09:32:11 +08:00
 dhairoot

大量 zip 压缩包，每一个都很小，10M 以内，如何利用 MapReduce 实现快速解压呢？

5429 次点击
所在节点    Hadoop
22 条回复
est
2018-11-15 16:07:09 +08:00
@dhairoot 完全不一样。hdfs 的 io 成本很高。解压效率应该不是瓶颈。。纯粹是你小文件 open() 的瓶颈。
atomstar
2018-11-15 16:07:09 +08:00
处理 zip 里面的数据可以用 mr，但是就解压 zip，为什么要和 mr 扯上关系呢

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/507999

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX