Massive MIMO技术因能有效地提高系统频谱效率和链路可靠性,创造更大的空间自由度,从而引起了人们强烈的兴趣。作为第五代移动通信系统的关键技术之一,Massive MIMO因其信道“硬化”特性,而使得检测算法能够达到最优性能。但是由于天线数量急剧增加,系统的计算复杂度也随之显著增加。目前Massive MIMO系统中的信号检测已成为其性能瓶颈。为了寻找低复杂度的检测算法,线性检测算法因其较低的复杂度而重新受到人们的关注。因此,本课题将重点研究Massive MIMO系统中低复杂度、高性能的线性检测算法。首先,本文介绍了 Massive MIMO系统中信号检测技术的研究现状,讨论了 Massive MIMO技术带来的机遇和面临的挑战,以及当前的一些解决方案;详尽描述了三种线性检测算法即ML、ZF、MMSE检测算法,重点给出了 ZF、MMSE检测算法的滤波矩阵表达式,并推导分析了噪声对检测算法的影响。最后研究了 MIMO系统中MMSE检测算法的软判决方法,仿真结果表明采用软判决算法可提高MMSE检测算法的性能。其次,分析并仿真了 Massive MIMO系统信道“硬化”特性,即随着基站接收天线数的增加信道逐渐趋于确定性分布且信道状态信息主要分布在主对角线上。目前对于Massive MIMO系统中的线性检测算法中的大矩阵求逆运算主要采用诺依曼级数将其展开,即将求逆运算转换为大矩阵相乘,但其复杂度仍然较高。为了进一步降低其复杂度,本文根据信道“硬化”特性提出一种新的大矩阵求逆运算方案,即将大矩阵分解为对角矩阵和空心矩阵之和再进行诺依曼级数近似而得到一种复杂度更低的求逆运算,并提出这种方案中诺依曼级数近似中新的求解优化因子方法,从而使得采用此求逆运算的线性检测算法的性能在损失很小的情况下将Massive MIMO系统检测算法的复杂度从O(K3)降低到O(K2)。我们将所提出的方案用于Massive MIMO系统的ZF与MMSE两种线性检测算法中,仿真结果表明基于Diagonal矩阵分解的诺依曼级数近似中,在天线数和用户数相同情况下,选取诺依曼级数展开项数为2项(L=2)的有优化因子方案的检测算法性能逼近没有优化因子而选取项数为3项(L=3)的检测算法,而算法复杂度却达到用户数K的一个数量级的降低,大大降低了检测算法的复杂度。本文还进一步提出了基于Tri-diagonal矩阵分解的诺依曼级数近似算法,即将大矩阵分解为以主对角线为中心的三条对角线上元素的矩阵与空心矩阵之和,并采用高斯消除方法求得Tri-diagonal矩阵的逆矩阵。但基于Tri-diagonal矩阵分解的诺依曼级数近似算法中由于高斯消除方法求解逆矩阵,依然有较高的复杂度,并且其算法难以并行处理。我们提出适合计算机并行处理的基于Frobenius矩阵分解的诺依曼级数近似算法,即将大矩阵分解为具有对角线元素与取矩阵中一列的矩阵与空心矩阵之和。利用Frobenius矩阵的良好特性,可高效地求得Frobenius矩阵的逆矩阵。我们将采用此两种大矩阵分解方案分别应用于Massive MMO系统的ZF检测算法与MMSE检测算法中的求逆运算的诺依曼级数近似中。仿真结果表明:基于Tri-diagonal矩阵分解的诺依曼级数近似的检测算法的系统性能优于基于Diagonal矩阵分解的诺依曼级数近似的检测算法;而基于Frobenius矩阵分解的诺依曼级数近似的检测算法性能优于基于Tri-diagonal矩阵分解的诺依曼级数近似的检测算法,且具有非常低的计算复杂度。最后,我们将上述研究成果拓展应用到多小区Massive MIIMO系统的上行链路中。研究了在预先知道所有小区的信道状态信息的条件下,先采用SVD分解方法消除小区间干扰,再采用单小区Massive MIMO系统新的低复杂度ZF检测算法,即基于Full CSI的低复杂度ZF检测算法。还研究了仅知目标小区的信道状态信息而其他小区信道状态信息未知条件下,通过求解干扰项与噪声之和的均值与方差,将多小区信道模型转化为单小区信道模型,再采用基于单小区Massive MIMO系统新的低复杂度MMSE检测算法,即基于Part CSI的低复杂度MMSE检测算法。仿真结果表明:所提出的新算法在性能略微损失情况下,拥有更低的计算复杂度。