请教一下 Hadoop 在生产环境可以通过 Docker 安装吗?

65 天前
 NeroKamin
背景:新入职的一家传统公司,开发运维的活都要自己干。领导不懂技术,今年定下的目标是要在公司内搞一个大数据平台,指定要部署一套 Hadoop 集群,让我来负责。我感觉按目前公司的业务来说根本用不到,基本上属于是绩效工程,我自己也对这方面没有太多研究。很早以前接触过一点 Hadoop ,印象就是安装配置挺麻烦的,所以我想来请教下在生产环境上能否使用 Docker 来简化 Hadoop 的安装配置,是否有什么坑?
1039 次点击
所在节点    Hadoop
12 条回复
superchijinpeng
65 天前
太可以了,现在政府的底层都是在 k8s 上了
NeroKamin
65 天前
@superchijinpeng 没有 k8s 环境,弄 k8s 感觉更复杂了。我想直接用 docker compose ,但这样是不是就和 hadoop 伪分布式集群差不多了,组件都跑在一个机器节点上了
cus
65 天前
单机就没有任何必要布集群了
cus
65 天前
可以看看阿里云的 lindorm ,我们之前的场景 lindorm 成本和自建接近。
NeroKamin
65 天前
@cus 绩效工程,领导要啥就只能做啥,打工人没有拍板的权力。领导要 Hadoop 就得上 Hadoop ,领导要 Docker 就得用 Docker 。
其实我主要是想问在不引入 k8s 、docker swarm 等的情况下有没有比较好的方案编排这些组件,并且不是单机集群
luckybearops
65 天前
我的理解,应该是有 ansible 编排的 hadoop 集群,可以去 GitHub 找找
kneo
64 天前
能。生产环境常用。当然坑很多,说有一百个坑都不为过。你想一个都不踩是不可能的。该踩的都得踩一遍,都是经验,就别想着避坑了。
ispong
64 天前
合作一下? 😊
ispong
64 天前
NeroKamin
64 天前
@ispong 这是啥?你们公司的产品吗
NeroKamin
64 天前
@kneo #7 能分享一下经验吗
ispong
57 天前
@NeroKamin 是的, 4 月份推广. 应该对你有所帮助,感觉我们可以合作

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1020336

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX