分布式异构计算系统中的DAG(Directed Acyclic Graph,有向无环图)任务调度是计算机体系结构研究领域中的热点问题之一,而调度模型与调度算法是DAG任务调度中最重要的两个方面。如何合理地将任务分配给不同处理器,从而得到最短的完成时间,是任务调度需要解决的问题。另外,新型应用的DAG任务具有计算任务种类多、并行依赖关系复杂等特点,传统启发式调度算法难以自适应软硬件系统的发展变化,通常导致系统运行效率的下降。利用机器学习的方法解决传统启发式方法遇到的难题是系统研究领域的发展方向。为解决异构计算系统中DAG任务自适应调度问题,本文拟结合深度学习与强化学习的方法,设计实现满足多种应用场景的自学习智能调度算法。本文的主要研究工作如下:(1)分布式异构计算系统中DAG任务智能调度模型的设计。在分布式异构计算系统中,DAG任务的智能调度模型主要涉及基于强化学习的DAG任务调度模型、调度目标、调度状态、调度动作以及调度奖励函数等要素的表示。(2)基于深度学习与强化学习相结合的调度算法。在本文中,我们提出了一种使用深度强化学习的自适应DAG任务调度(ADTS)算法。在强化学习过程中恰当地定义了调度问题。设计了高效的调度状态空间,动作空间与奖励函数来训练基于策略梯度的REINFORCE智能体。利用该算法探索长期奖励的能力,ADTS算法可以实现良好的调度策略。实验结果表明,本文提出的ADTS算法与经典的HEFT与CPOP算法相比具有一定的有效性。(3)基于蒙特卡洛树搜索的DAG任务智能调度算法。在本文中,我们提出了一种单智能体蒙特卡洛树搜索(MCTS)的DAG任务智能调度算法。利用MCTS方法来确定实际调度策略。在任务调度过程中,该算法平衡了探索与利用的关系。实验结果表明,本文提出的单智能体MCTS算法与经典的HEFT、CPOP与PEFT算法相比具有一定的有效性。