异构环境下基于双重预取的Hadoop调度算法

来源 :计算机测量与控制 | 被引量 : 0次 | 上传用户:pdiudiu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
Hadoop处理海量数据时,无论是Map任务还是Reduce任务都需要耗费大量的时间传输数据,故提出一种基于双重预取的调度算法;该算法通过估算节点上任务执行的进度来预测Map任务的执行节点,然后通知节点提前预取所需的数据,并且在Map任务完成的数量达到预定值时,开始为Reduce任务预取部分数据;由于在异构的环境下集群中节点的性能各不相同,为此采取了改进的预测模型,以提高任务进度判断的准确性;实验证明,本算法在作业响应时间等方面优于现有的调度算法。
其他文献
针对无人机在高空自动加油对接过程中容易出现偏差的问题,提出了无人机空中自动加油精准对接的优化控制方案,研究并分析了影响加油锥管与受油接口快速准确对接的主要因素,通
在分析了水液力缓速器控制系统结构原理及汽车恒速下坡过程的基础上,提出了一种水液力缓速器控制汽车恒速下坡的参数自整定模糊控制策略;根据水液力缓速器系统数学模型和整车
大多数电子元器件的性能受到工作温度的影响,其温度特性对设备稳定性和精确度的影响不容忽视;以半导体致冷器(TEC)为核心,ATMega128A单片机为控制芯片,采用PT100、高精度恒流源
为解决目前机务维修培训中存在的物理样机难以满足需求的问题,以实际机务维修工作中旋翼振动调整方法为参考,提出在虚拟维修训练系统的基础上实现受训人员对虚拟样机旋翼桨叶
随着信号模拟器的发展,载体的运动模型越来越复杂,给出了一种在真实复杂的场景下载体自驾车行驶的过程中卫星可见性判断的方法;利用GlobalMapper软件处理网上下载的数字高程信息
为监测机械设备的工作状态,对机械设备工作过程中产生的振动信号进行采集、处理和分析,从而实现系统的状态监测、故障诊断以及寿命预测等;但目前振动信号分析系统体积较大、