随着智能手机、平板电脑等便携式智能终端的广泛普及,无线数据业务量开始出现爆炸式增长,对未来5G系统的带宽和速率提出了更高的要求。大规模天线(Massive Multiple-Input Multiple-Output,Massive MIMO)技术因为具有空前地提高系统的容量和能效以及简化信号处理等优点而成为未来5G网络中一项关键的候选技术。作为通信系统的一种重要测度,大规模MIMO系统的可达速率性能已得到了广泛的研究。但现有的理论成果仍然还不够全面,比如,只有可达速率的下界或近似结果的报道,现有的文献中还没有解决可达速率上界的问题。由于上界和下界可以将精确的可达速率限制在一个更窄的范围内,也可为大规模MIMO系统的最优设计提供理论基础。故本论文主要研究大规模MIMO系统在各种实际的信道模型下包括匹配信道和非匹配信道(即硬件电路损害造成的信道非匹配),当采用不同的线性处理方法时获得的可达速率性能。本文的主要内容和创新点如下:第一,针对单小区情形,研究了大规模MIMO系统(收/发机都具有多天线)基于最大比合并(MRC)线性处理方法的上行可达速率性能。在考虑了用户不等同的大尺度衰落和非完美的信道状态信道(CSI),提出了一个闭式的可达速率上界表达式。仿真结果表明该上界比现有的可达速率下界和近似结果更接近精确的速率,并且该上界会随着接收机配置更多的天线而变得更紧。另外,针对接收机侧存在相关性的信道,研究并得到了基于MRC接收机的上行可达速率近似表达式。并针对三种典型的相关信道模型,即指数相关、三角相关和常数相关,分析了渐进速率性能和功率缩放定律。第二,针对多小区情形,研究了大规模MIMO系统基于迫零(ZF)线性接收机的上行可达速率性能。在考虑获取CSI时产生的导频污染,小区间干扰以及大尺度和小尺度衰落效应等更多实际因素下,提出了闭式的可达速率上界表达式,该上界和已有的下界能将精确的速率限制在一个更窄的范围。联合已有的下界,论文在理论上证明了提出的上界是紧的,计算机仿真表明上界在各种系统配置下都是紧的。该结果可为系统的最优设计提供方便,如确定每个小区的最优用户数和用户的最优发射功率等。第三,针对中继大规模MIMO系统,将大多数文献中假设的Rayleigh衰落信道扩展到更一般的Ricean衰落信道(Rayleigh信道是Ricean信道的一种特殊情况),分析了中继节点采用MRC接收和最大比发射(MRT)预编码时系统的可达速率性能。并针对天线数充分大和Ricean因子无穷大两种情形,分别得到可达速率的近似表达式,仿真结果表明该近似结果对实际系统的维数仍然获得了相当高的精度。最后,又讨论了功率缩放定律,表明在Ricean信道下,中继节点或每个用户都可将发射功率降低1/M倍而保持系统的性能不被恶化。第四,针对射频电路增益随机性变化导致的非匹配衰落信道,研究了单小区大规模MIMO系统采用MRT和ZF两种预编码方法时的可达速率性能,得到了可达速率的下界或近似结果。基于得到的解析结果,还研究了基站的功率分配方案以便信号更加适应这种非匹配信道的传输,从而获得最大的系统速率。通过利用对数下界不等式、合适的变量替换、泰勒级数展开,将该非凸问题转化成了凸问题,然后利用连续凸近似的方法提出了相应的迭代算法。仿真结果也验证了解析结果的精确性和所提算法的有效性。本文的研究结果对大规模MIMO系统的设计和优化具有重要的参考价值。