智能体通过与环境交互,利用强化学习优化策略以实现回报最大化或完成特定任务。将强化学习与深度学习结合形成深度强化学习,它不仅具备强大的特征提取能力和表达能力以感知智能体属性信息和环境信息,而且具备强大的探索能力以适应环境的动态变化,在多个复杂问题中展现出良好的性能。尤其在多智能体协同决策任务中,多智能体深度强化学习已然成为研究热点,在无人机编队协同、交通枢纽控制和智能物流等多种领域被广泛应用。因此,多智能体深度强化学习具有重要的理论研究和实际应用价值。实际应用系统中,单个智能体通常仅具备局部观测能力,即环境非全知多智能体系统。在完成协作要求高的任务时,智能体间密切配合才能实现团队利益的最大化,但在环境非全知的条件下,每个智能体对于复杂环境的认知有限,需要通信协同。因此,如何通过智能体间有效通信增强智能体感知环境的能力,切实提升决策质量,是多智能体系统研究的一个重要内容。基于此,本文对非全知环境下多智能体协同决策过程中智能体的通信策略学习进行了研究,针对通信过程中消息的有效识别和处理以及通信资源优化两方面提出了两种多智能体强化学习方法,具体研究内容包括:（1）针对通信过程中消息冗余和存在噪音的问题,提出一种基于注意力消息共享的多智能体强化学习方法AMSAC。具体而言,首先,基于多智能体演员-评论家架构,建立智能体消息共享空间,智能体对共享空间进行消息读取和写入操作,为全局环境信息感知提供支撑;其次,在消息共享网络中建立注意力机制,识别重要信息并进行处理,提升多智能体系统的消息处理性能;最后,在集中式评论家网络中,充分利用全局状态和动作信息,采用时间差分优势策略梯度对智能体执行动作的价值进行合理评估。在多智能体协同对抗环境中进行实验,结果显示AMSAC在四个不同场景下具备优于基线算法的性能。（2）鉴于多智能体值函数分解方法在解决非平稳性和扩展性问题的良好性能,针对其在分散式执行过程中存在的不协调问题,提出了一种基于信息论优化的多智能体强化学习方法BESQ。BESQ以信息论优化技术为基础,基于多智能体值函数分解架构设计了两种通信消息正则化优化器,进而在智能体间构建了通信资源优化机制,解决值函数分解方法在分散执行过程中缺乏协调的问题。具体而言,首先,为增强智能体通信消息的表达能力,建立最大化智能体消息与动作选择之间互信息熵的正则化优化器,减少其他智能体动作值函数的不确定性;同时,为优化智能体通信消息的简洁性,建立最小化智能体消息熵的正则化优化器,使智能体通信的消息包含影响决策的重要信息;最后,基于多智能体值函数分解方法Qatten实现上述的通信资源优化机制,将值函数分解和通信学习方法有机结合。在多智能体协同对抗环境中进行实验,结果表明BESQ在四个不同场景下具备优于基线算法的性能。