刚开始接触 HDFS, 想问下如何把 HDFS 当成网盘使用?

2018-05-20 09:34:23 +08:00
 RangerWolf
当前跟小伙伴一起用的解决方案是 minio, 但是在遇到需要批量读取数据的时候 minio 单点跟不上了.
而且让 Spark 来读写会非常的绕.

后来搭建了 HDFS, 对 Spark 来说很开心了, 但是对普通的文件存储于分享又成了问题.

Google 到有 HttpFS, 但是看起来并不支持 WebUI 操作?

我觉得是我刚接触, 孤陋寡闻, 应该有相关的开源项目吧? 小团队真心不想搞两套存储系统...
3146 次点击
所在节点    问与答
6 条回复
xhinliang
2018-05-20 09:49:08 +08:00
我也想知道
liprais
2018-05-20 10:05:09 +08:00
没看懂你到底想干啥
webHDFS 了解一下
ipwx
2018-05-20 12:25:13 +08:00
小机群可以考虑 moosefs 这类 posix 文件系统
zn
2018-05-20 13:04:58 +08:00
HDFS，网盘？？

What the f**k?
lockelee
2018-05-20 18:33:53 +08:00
所以 七牛云 阿里云 oss 了解一下
RangerWolf
2018-05-20 21:39:39 +08:00
@lockelee 还是得自建小型数据中心做计算啊

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/456237

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX