大规模多输入多输出(Multiple-In Multiple-Out MIMO)作为5G中的关键技术之一受到了人们广泛的关注。在大规模MIMO中,需要预编码来减轻信道中噪声和其他用户相互之间的干扰。信道矩阵维度的增加,会给预编码算法带来很大的复杂度,人们一直在寻找低复杂度的预编码,但是低复杂度的预编码算法多是以牺牲系统性能为代价的,同时,随着大规模MIMO系统用户的增加,用户间的干扰也会增加,使得系统误码率性能降低。因此论文从提升低复杂度预编码算法系统误码率性能的角度考虑,对预编码算法进行研究。另外,信号在发送前需要根据天线系统的配置进行信道状态的估计,在预编码之前对现有的天线进行选择,不仅能够减少大规模MIMO系统的天线射频模块,而且能够提升预编码算法的误码率性能。论文首先分析了大规模MIMO系统模型,对瑞利衰落信道模型下的线性迫零(Zero Forcing ZF)预编码、最小均方误差(Minimum Mean Square Error MMSE)预编码和非线性脏纸(Dirty Paper Code DPC)编码、(Tomlinson-Harashima TH)预编码算法的工作原理进行了对比分析。论文对基于向量扰动的向量模值下降算法进行了分析,并重点讨论了基于诺曼级数展开的矩阵近似求逆预编码(Approximate Matrix Inverse Precoding AMIP)算法,基于向量扰动的向量模值下降算法对AMIP算法进行了改进。基于诺曼级数展开的矩阵近似求逆预编码(AMIP)算法,相比传统的ZF和MMSE预编码算法虽然能降低预编码矩阵在大规模MIMO系统中实现时的硬件复杂度,但是其误码率性能有所下降。为了提升该算法的误码率性能,论文利用向量扰动的思想将发送信号进行扰动,再利用向量模值下降算法求取初始预编码矩阵与扰动信号乘积的最小模值,将初始预编码矩阵与上述最小模值结合,实现对AMIP算法的改进。仿真验证改进后预编码算法,误码率性能有一定的提升。另外,为了进一步提升改进的诺曼级数矩阵近似求逆预编码(Norm-Approximate Matrix Inverse Precoding NAMIP)算法的误码率性能,论文结合系统差错概率最小的思想,利用信道矩阵列向量模值选择算法,对发送天线进行选择,再实现预编码矩阵。将发送天线进行选择,能够减少大规模MIMO系统的天线射频模块。仿真验证,经天线选择后实现的预编码算法误码率性能也有一定提升。