随着我国社会信息化的深入发展和智能终端的广泛应用,对于更高性能的移动通信需求与日俱增。为了满足这些方面的需求,大规模多输入多输出(MIMO)技术作为第五代移动通信(5G)中的关键性技术,已经得到了学术界和工业界的广泛关注。大规模MIMO技术通过在基站(BS)配置大量的天线,并同时向多个用户提供服务,以此来获得巨大的空间复用增益和分集增益。然而,大规模MIMO技术在与多种不同类型通信系统的演进和融合过程中,也面临着诸多问题,比如线性传输技术的应用、硬件损伤、导频污染、非理想信道状态信息(CSI)、频谱效率(SE)及能量效率(EE)的优化等问题都对大规模MIMO技术的发展带来了新的挑战。基于上述背景,本文主要针对几种线性传输技术(线性预编码或线性检测)在三种热门类型的大规模MIMO系统(大规模MIMO全双工中继系统、多小区大规模MIMO系统和去蜂窝大规模MIMO系统)中的频谱效率和能量效率性能展开研究,旨在为5G网络的商用提供理论支撑和技术支持。具体研究工作如下:大规模MIMO全双工中继(FDR)系统的研究工作包括:(1)研究了瑞利衰落信道环境下具有硬件损伤影响的大规模MIMO全双工中继系统。首先,当中继使用最小二乘法获取到CSI时,分别推导了解码转发(DF)或者放大转发(AF)协作方式下的大规模MIMO全双工中继系统使用最大比合并/最大比传输(MRC/MRT)和迫零(ZF)处理方式时的和频谱效率闭合表达式。然后,当中继使用线性最小均方误差法获取到CSI时,推导了 DF协作方式和ZF处理方式下的大规模MIMO全双工中继系统和频谱效率闭合表达式。最后,根据所获得的频谱效率闭合表达式,可以得到各种功率缩放定律,并发现了随着中继的接收天线数量和发送天线数量以一定比例趋近于无穷大时,源节点的功率、中继端的功率和导频的功率可以以一定条件缩放来维持系统性能。多小区大规模MIMO系统的研究工作包括:(2)研究了莱斯衰落信道环境下的下行(DL)多小区大规模MIMO系统。首先,在非理想CSI的情况下,分别推导了莱斯和瑞利衰落信道环境下多小区大规模MIMO系统使用等增益传输(EGT)预编码,和莱斯衰落信道环境下该系统使用基于视距分量的等增益传输(LOS-EGT)预编码和MRT预编码时的和频谱效率闭合表达式。然后,根据这些闭合表达式,可以得到各种针对下行发送功率和上行(UL)导频功率的功率缩放定律。最后,仿真结果显示了当基站的天线数量和小区间干扰强度很大时,相较MRT预编码,EGT和LOS-EGT预编码可以更好地抵抗小区间干扰和导频污染的影响。(3)为了在用户端也能获取到CSI,对莱斯衰落信道环境下基于波束成型训练(BT)方案的下行多小区大规模MIMO系统进行了深入的研究。首先,当基站使用MRT和ZF预编码处理发送信号时,分别推导了使用BT方案和不使用BT方案的多小区大规模MIMO系统和频谱效率闭合表达式。然后,通过使用伯努利不等式的性质,可以发现当下行导频长度处于何种情况下,BT方案的和频谱效率可以超过不使用BT方案的和频谱效率,反之亦然。最后,根据所获得的频谱效率闭合表达式,分析了当下行发送功率和上行导频功率处于不同功率缩放情况下的频谱效率性能。(4)研究了空间相关莱斯衰落信道环境下基于BT方案的下行多小区大规模MIMO系统。首先,当基站使用MRT和ZF预编码时,分别推导了基于BT方案的多小区大规模MIMO系统和频谱效率和能量效率闭合表达式。然后,在满足给定的和频谱效率和最大下行发送功率限制的前提下,提出了一种可以将能量效率最大化的问题转换成几何规划问题的功率分配迭代算法。最后,仿真结果表明了所提出的功率分配算法可以有效地提升该系统的能量效率。去蜂窝大规模MIMO系统的研究工作包括:(5)研究了空间相关莱斯衰落信道环境下基于BT方案的下行去蜂窝大规模MIMO系统。首先,在非理想CSI且接入点使用MRT预编码时,推导了基于BT方案的去蜂窝大规模MIMO系统和频谱效率和能量效率闭合表达式。然后,根据推导的闭合表达式,分别提出了两种通过调节下行发送数据和导频功率控制系数以此来提升系统和频谱效率和能量效率的连续近似算法。最后,仿真结果表明,对于95%可能性的和频谱效率或能量效率,所提算法可以分别提升40%的频谱效率或36%的能量效率性能。(6)研究了频率选择性衰落信道环境下具有相位噪声影响的上行去蜂窝大规模MIMO系统。在非理想CSI的情况下,分别推导了去蜂窝大规模MIMO系统使用基于时间反转的最大比合并(TR-MRC)和基于时间反转的大尺度衰落译码(TR-LSFD)接收方式时的和频谱效率闭合表达式。根据这些和频谱效率闭合表达式,可以发现随着接入点数量的增加,相较TR-MRC接收方式,TR-LSFD接收方式可以更好地发挥系统性能优势,并且仿真结果也验证了这一现象。综上所述,本文针对大规模MIMO全双工中继系统、多小区大规模MIMO系统和去蜂窝大规模MIMO系统的频谱效率或能量效率进行了详细的分析,并得到了一系列的结论,这些研究成果为推动大规模MIMO的实际应用提供了丰富的理论依据。