请教 hadoop 配置文件中配置项的作用域

2019-01-09 10:56:51 +08:00
 lcdxiangzi
最近在翻 hadoop 权威指南,发现书里面提到有些 property 的 kv 对是针对一个 job 的,有些是针对 node 的,有些是针对 cluster 全局的。
但是没有一个比较系统的说明,诸多配置选项的生效范围,或者说作用域。

请问哪里有类似的书或者文章可以参考一下吗?
是通过将配置内容放在不同的配置文件中来完成作用域的控制,还是有其他的机制?

新手上路,请多指点,多谢
2789 次点击
所在节点    Hadoop
4 条回复
MeiChouchou
2019-01-09 11:12:24 +08:00
lcdxiangzi
2019-01-09 13:56:57 +08:00
@MeiChouchou 你好,问一下你提到的四个配置文件是 core-default mapred-default hdfs-default yarn-default 这四个吗?但是有些配置项,我在这四个里面都搜不到呢?
MeiChouchou
2019-01-09 14:44:44 +08:00
@lcdxiangzi 在官网 doc 每个版本里面都有,左边导航栏最下面就有,
lcdxiangzi
2019-01-09 15:09:06 +08:00
@MeiChouchou 我看到这个了,我是想说,我想了解的一个配置项,比如,mapreduce.input.pathFilter.class,我在几个链接里面都没有搜到相关的说明呢?
另外,按照我的理解,这几个配置文件应该都是全局生效的,但是我在书里看到有些配置是针对 job 生效的,我想了解一下,如果有些配置是针对特定 job 生效,那这个配置项应该在哪里进行配置呢?这个配置项的作用域是如何控制的。
不知道我又没有说清楚

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/525281

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX