YARN日志聚合相关参数配置

相关参数含义

  • yarn.log-aggregation-enable
    参数说明:是否启用日志聚合功能,日志聚合开启后保存到HDFS上。
    默认值:false
    
  • yarn.log-aggregation.retain-seconds
    参数说明:聚合后的日志在HDFS上保存多长时间,单位为s
    默认值:-1(不启用日志聚合),例如设置为8640024小时
    
  • yarn.log-aggregation.retain-check-interval-seconds
    参数解释:多长时间检查一次日志,并将满足条件的删除,如果是0或者负数,则为上一个(yarn.log-aggregation.retain-seconds)值的1/10
    默认值:-1
    
  • yarn.nodemanager.remote-app-log-dir
    参数说明:当应用程序运行结束后,日志被转移到的HDFS目录(启用日志聚集功能时有效),修改为保存的日志文件夹。
    默认值:/tmp/logs
    
  • yarn.nodemanager.remote-app-log-dir-suffix
    参数说明:远程日志目录子目录名称(启用日志聚集功能时有效)。
    默认值:logs 日志将被转移到目录${yarn.nodemanager.remote-app-log-dir}/${user}/${thisParam}
    

配置示例

```
<property>
	<name>yarn.log-aggregation-enable</name>
	<value>true</value>
	<final>true</final>
</property>
<property>
	<name>yarn.log-aggregation.retain-seconds</name>
	<value>86400</value>
</property>
<property>
	<name>yarn.log-aggregation.retain-check-interval-seconds</name>
	<value>86400</value>
</property>
<property>
    <name>yarn.nodemanager.remote-app-log-dir</name>
    <value>/tmp/logs</value>
</property>
<property>
    <name>yarn.nodemanager.remote-app-log-dir-suffix</name>
    <value>logs</value>
</property>
<!-- 其他配置 -->
<property>
	<name>mapred.job.history.server.embedded</name>
	<value>true</value>
</property>
<property>
    <name>yarn.app.mapreduce.am.staging-dir</name>
    <value>/hadoop_logs/yarn_staging</value>
</property>
```

参考:https://www.cnblogs.com/xizhunet/p/5131731.html


猜你喜欢

转载自blog.csdn.net/believe2017slwx/article/details/79913527