【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: limit=1048576 items=1048576

技术【Hadoop报错】The directory item limit of /tmp/hadoop-yarn/staging/history/doneintermediate/hdfs is exceeded: li

【Hadoop报错】/tmp/Hadoop-纱线/分段/历史/完成_中间/HDFS的目录项限制超出d:限制=1048576项=1048576

问题描述:调度系统执行储备任务失败,一直执行失败,报错如下:Java。io。ioexception : Java。净。连接器异常:从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。连接器异常:拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

由: Java。净。除:之外的连接引起从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。除:之外的连接拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

控制台#结束作业=作业_ 1638255473937 _ 0568出现异常“Java。io。ioexception(Java。净。除:之外的连接从#主机名/#IP到#主机名:10020的调用因连接异常而失败3360 Java。净。除:之外的连接拒绝连接;更多详情请参见: http://wiki.apache.org/hadoop/ConnectionRefused)

控制台#故障:执行错误,从组织。阿帕奇。Hadoop。蜂巢。QL。执行董事。mapredtask先生。Java。净。connectexcept :从#主机名/#IP到#主机名:10020的调用因连接异常而失败: Java。净。connectexcept :拒绝连接;详情请见: http://wiki.apache.org/hadoop/ConnectionRefused

这个信息还看不出具体的问题所在,查看服务器上所有的日志,也没有看出问题,最后查看故事的日志,看出问题所在。

根据调度系统,获取到应用程序id:application _ 1638255473937 _ 0568,然后从hdfs上查看对应的日志信息。

关键报错信息:组织。阿帕奇。Hadoop。IPC。远程异常(组织。阿帕奇。Hadoop。HDFS。协议。fslimitexception $ maxdirectoryitemsexedeception):/tmp/Hadoop-yarn/staging/history/done _ intermediate/HDFS的目录项限制超出:限制=1048576项=1048576

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/128325.html

(0)

相关推荐

  • 引擎ECS框架中system的语法糖是怎么实现的

    技术引擎ECS框架中system的语法糖是怎么实现的引擎ECS框架中system的语法糖是怎么实现的,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。集(B

    攻略 2021年11月24日
  • Flink 的运行架构详细剖析

    技术Flink 的运行架构详细剖析 Flink 的运行架构详细剖析1. Flink 程序结构
    Flink 程序的基本构建块是流和转换(请注意,Flink 的 DataSet API 中使用的 DataS

    礼包 2021年11月4日
  • Mac OSX下怎样给树莓派安装Raspbian系统

    技术Mac OSX下怎样给树莓派安装Raspbian系统本篇文章给大家分享的是有关Mac OSX下怎样给树莓派安装Raspbian系统,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说

    攻略 2021年11月19日
  • css3变形效果好吗(css3中2d变形类型有哪些)

    技术CSS3变形技术有哪些本篇内容介绍了“CSS3变形技术有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

    攻略 2021年12月15日
  • div鼠标放上去就放大用css3怎么写(css3实现div放大)

    技术css3如何实现div放大这篇文章主要讲解了“css3如何实现div放大”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“css3如何实现div放大”吧!

    攻略 2021年12月15日
  • php数据类型的永久转换函数是哪个

    技术php数据类型的永久转换函数是哪个本篇内容主要讲解“php数据类型的永久转换函数是哪个”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“php数据类型的永久转换函数是哪个”吧

    攻略 2021年12月13日