智能反射面（Intelligent Reflecting Surface,IRS）是一种提高无线通信性能的革命性技术,它可以通过改变入射信号的幅度和相位来重构整个无线信道环境,从而能提升无线通信性能。在设计和优化IRS反射单元的反射相位时,大部分研究采用的是凸优化算法,然而由于IRS的反射单元数量众多,凸优化算法的设计难度往往较高且具有较高的复杂度。此外,面对不同的通信系统的性能优化问题,需要设计不同的优化算法,其中涉及各不相同的数学推导和算法设计过程。为了降低优化算法的设计难度和计算复杂度,本文提出新的算法设计思路,使用一种新型的人工智能算法——深度强化学习（Deep reinforcement learning,DRL）去解决IRS辅助通信系统的性能优化问题。本文对两种IRS辅助无线通信系统的性能优化进行研究,分别通过使用属于确定性策略（Deterministic Policy）的Deep Deterministic Policy Gradient（DDPG）算法以及属于随机性策略（Stochastic Policy）的Soft Actor-Critic（SAC）算法去优化两种不同IRS辅助无线通信系统中的IRS反射相位以及相应的通信资源分配,改善两种系统的通信性能。本文的主要内容如下。1)研究IRS辅助的认知无线电（Cognitive Radio,CR）通信系统,通过优化次要用户在发射端的发射功率以及IRS的反射相位,在保证主要用户的服务质量（Quality of Service,Qo S）前提下最大化次要用户在接收端的信号与干扰加噪声比（Signal to Interference plus Noise Ratio）。本文首先将优化问题转化为一个强化学习（Reinforcement Learning,RL）问题,然后分别使用DDPG算法以及SAC算法对问题进行求解。此外,本文还提出了一种能够有效改善DRL算法性能的方法,即通过对贝尔曼最优方程（Bellman Optimality Function）中的奖赏项乘上一个适当的系数,提升两种DRL算法的学习效率和算法稳定性,并且减小累计奖赏方差。仿真结果表明,本文提出的两种DRL算法能通过智能体自我学习,在不需要使用复杂的数学推导技巧和大量的计算量的条件下,能够得到与凸优化算法几乎一致的次要用户通信速率,并且随着IRS反射单元数量的增加,两种DRL算法的复杂度远远低于凸优化方法。同时,仿真结果表明SAC算法在学习效率,算法稳定性以及即时奖赏方差大小上比DDPG算法更具优势。2)为了探究DRL算法是否能够用于优化不同的无线通信系统,研究IRS辅助的安全通信系统。使用第一部分的DRL算法设计框架,分别提出基于DDPG和SAC的算法,在不需要改变DRL算法框架以及大面积调整算法超参数的情况下通过优化发射端的发射功率以及IRS的反射相位,最大化系统信息传输的安全速率。而在优化过程中本文仅仅需要根据系统模型调整智能体的状态、动作以及奖赏。仿真结果显示,DDPG和SAC算法在更低的运算复杂度情况下取得了比凸优化方法更优的安全通信速率。此外,仿真结果再一次验证了SAC算法在学习效率、算法稳定性以及累计奖赏方差的减小方面优于DDPG算法。因此,本文的研究表明DRL算法在优化不同的IRS辅助通信系统时具有较好的适应性。