智能体指能够通过感知环境并与环境进行交互,利用已有信息对自身策略进行迭代的完整个体系统,深度强化学习技术由于其强大的特征提取与决策能力常用于智能体建模任务上。随着人工智能的发展与智能体建模问题研究的不断深入,多个智能体组成的多智能体系统由于其强大的表达能力对真实世界的应用任务做出了更为精准的建模,其中广受学者关注的问题是基于强化学习的多智能体协同对抗问题,其旨在研究基于强化学习的多智能体群体如何在复杂多变的环境中通过最优的协同决策战胜其他智能体群体。基于强化学习的多智能体协同对抗算法技术广泛应用于战场对抗、游戏AI、机器人控制等实际任务上,在实际应用上具备极强的研究意义与价值。多智能体协同对抗任务由于其复杂的环境以及庞大的智能体数量,构成了庞大的策略空间,所以算法表达力不足会导致收敛困难的问题。并且由于多智能体协同对抗任务中存在不可预估的其他智能体,如何构建鲁棒性强的智能体算法也意义重大。本文对当前强化学习及多智能体系统领域的研究历史与现状进行了回顾与总结,结合现有工作进行深入研究,为解决上述问题提出了下列创新点并进行实验验证:（1）针对多智能体协同对抗环境庞大的策略空间,本文提出了基于策略分层的多智能体强化学习算法（SL-MARL）。通过两级策略分层的思想,基于强化学习技术构建了上层宏观策略算法与下层微观动作执行算法。上层由于考虑到多智能体系统的复杂性以及智能体之间的相互联系,构建了基于注意力机制与子状态空间的值分解网络。下层由于需要接受上层的策略输入,构造了基于宏观策略的值网络。实验证明该算法在复杂环境上,收敛速度及性能表现上均优于基线算法。（2）针对智能体鲁棒性不足的问题,本文提出了基于多样性种群的协同对抗算法进化方法（EBDP）。通过不同的训练目标进行预训练,构建多样性丰富的初始智能体。在此基础上通过不同参数构建混合智能体对抗池,并采样智能体令智能体互相进行对抗训练并不断生成新的智能体参数加入对抗池,通过不断迭代训练提升智能体的性能与鲁棒性。实验证明在通过EBDP训练后,智能体的性能与鲁棒性均可以得到提升。