大规模MIMO技术作为第五代(5G)移动通信的关键技术之一,将会得到越来越广泛地应用。导频污染是大规模MIMO系统中影响系统容量提升的主要因素,是影响大规模MIMO技术走向商用的主要瓶颈。预编码技术作为大规模MIMO系统中减轻导频污染非常有效的方法之一,同时可以降低接收机进行信号检测的复杂度。本文主要对系统预编码技术进行更深入研究,针对线性预编码存在的复杂度高的问题,研究基于迭代思想的预编码算法,确保在保证系统性能的条件下,降低预编码算法的实现复杂度,论文的主要工作如下:首先,论文对MIMO信道建模的基本流程作了简单介绍,重点分析了大规模MIMO信道的渐进正交性,并通过信道特性仿真进行说明;分析了天线空间相关性对信道容量的影响;基于最小二乘信道估计和最小均方误差信道估计,对导频污染的产生原因及影响作了简单分析,理论推导了导频污染对系统容量的影响。其次,论文主要研究面向大规模MIMO的系统预编码技术。简单对线性预编码算法在大规模MIMO系统中的性能进行了分析,针对其因为矩阵求逆而复杂度过高的问题,本文研究了超松弛预编码算法,由于逐步超松弛(SOR)预编码算法对松弛因子比较敏感,本文提出了加权对称逐步超松弛(W-SSOR)预编码算法。仿真结果表明,所提算法不仅降低了系统对松弛因子的敏感度,而且收敛速度也有一定的提升。最后,为降低预编码算法的实现复杂度,本文对基于迭代思想的预编码算法进行了更深入的研究,针对已有的共轭梯度(CG)预编码算法收敛速度较慢的问题,论文提出了基于超松弛预处理的CG预编码算法,并对其迭代格式进行了改进。仿真结果表明,所提算法不仅很好地控制了复杂度,收敛速度也有较大提升。