伴随着第五代移动通信（5G）技术逐渐成熟并走向商用,开展后5G时代（Beyond 5G,B5G）/第六代移动通信（6G）技术研究已成为国内外科研院所和ICT企业关注的焦点。通过对5G技术现存问题深入分析,以及B5G/6G应用需求的深入挖掘,不难发现B5G/6G迫切需要新技术手段以期在不显著增加网络部署成本的同时提升无线通信频谱和能量效率,从而满足未来应用需求并实现真正意义上的可持续网络演化。与此同时,近年来,一种被称为智能反射表面（Intelligence Reflecting Surface,IRS）的无线通信使能技术被提出。IRS可以以可编程方式实现对入射到其表面的电磁波的反射相位与方向进行智能调控。此外,IRS具有制造成本低、轻薄、低损耗、复杂度小以及可部署性强等特点。因而,IRS在提高无线通信系统频谱与能量效率、增强无线通信安全并降低系统部署成本方面是一种非常有竞争力和前景的技术,其也被看作是B5G/6G的候选关键技术之一。针对IRS使能无线通信技术的调研结果表明,相关研究工作才初步展开。本文围绕IRS辅助多输入-多输出（Multi-Input Multi-Output,MIMO）无线通信系统及其联合资源分配问题开展研究,重点是IRS辅助MIMO无线物理层安全通信联合波束赋形问题和IRS辅助基于MIMO的认知无线电系统联合波束赋形问题。具体地,本文主要内容概况如下:（1）研究IRS辅助MIMO无线物理层安全通信系统联合波束赋形问题,即多天线配置接入点（Access Point,AP）与多天线授权用户有安全通信需求,网络中存在一多天线窃听节点企图窃听授权用户保密通信。首先,讨论IRS连续反射系数模型及AP最大发射功率约束下,联合优化AP发射协方差矩阵和IRS反射系数以最大化系统安全通信速率。由于所建模优化问题非凸且决策变量相互耦合,提出基于交替优化的次优算法:给定IRS反射系数,利用连续凸近似方法优化AP发射协方差矩阵;给定AP发射协方差矩阵,使用交替优化算法在其他IRS反射系数固定情况下优化单个IRS反射系数。随后,将所提算法推广到相同场景下IRS离散反射系数模型的问题求解。最后,通过数值仿真分析验证了所提算法的收敛性及系统可达性能。（2）研究IRS辅助的MIMO认知无线电系统联合波束赋形问题,即次级接入点（Secondary Access Point,SAP）需在满足自身最大发射功率约束、多主用户（Primary Users,PUs）独立干扰泄漏约束和IRS反射系数恒模约束前提下,联合优化SAP预编码矩阵和IRS反射系数以最大化次级用户加权和速率。由于所建模问题非凸,利用数据传输速率和最优解码矩阵均方误差（Mean-Square Error,MSE）之间的关系,将所形成的非凸优化问题转化为更易处理的形式。在此基础上,提出基于交替优化与连续凸近似的有效算法。随后,从简化算法复杂度角度出发,进一步讨论了单主用户场景下的联合SAP与IRS主被动波束赋形问题,同样利用交替优化思想,提出具有更低复杂度的求解算法。最后,通过数值仿真分析验证了所提算法相对于参考算法的优越性。