大规模多输入多输出(MIMO)技术作为第五代移动通信的关键技术之一,已被证明能在不增加带宽的情况下提升系统的容量和可靠性。预编码技术可以有效抑制用户间干扰、码间干扰、数据流间干扰等,因此在大规模MIMO系统下行链路中必不可缺。然而在大规模多用户MIMO系统中,随着天线数量的增加,系统功耗与成本问题也逐渐凸显,因此本文不仅对理想数模转换器(DAC)下预编码技术进行研究,也进一步分析了采用非理想数模转换器下预编码的性能。本文首先简单介绍了无线信道衰落模型,分别针对大尺度衰落和小尺度衰落的成因进行了深入分析,接着对大规模多用户MIMO系统进行了研究,并对大规模MIMO信道容量进行了计算,另外着重分析了大规模MIMO信道中小尺度衰落矩阵随天线数量增大的渐进正交性。通信系统势必要以可实际部署为前提,鉴于成本和功耗问题的影响,本文又对采用非理想DAC的大规模MIMO系统下行链路进行了分析。其次深入研究了理想DAC情况下大规模MIMO系统目前常用的线性预编码方案,并对各常用算法在基站天线数目不同时对系统性能的影响做了比较。针对多种预编码方案在多数据流场景下受数据流间干扰严重的问题,本文提出基于信漏噪比(SLNR)的预编码方案,通过平衡各数据流间的增益使得接收终端的整体的可靠性增加。仿真结果表明,虽然本文提出的基于SLNR的方案在传输速率上会有一定的损失,但系统的总体的误比特率性能得以提升。最后,针对采用非理想DAC的大规模MIMO系统,本文深入研究了采用1-bit量化DAC对预编码性能的影响。由于线性预编码失真严重,而目前常用的非线性预编码存在复杂度过高的问题,因此本文提出一种基于交替方向乘子法(ADMM)的非线性预编码方案,通过交替迭代的方式对预编码矩阵进行求解。仿真结果表明,本文提出的算法不仅极大限度的控制了复杂度,同时收敛速度也有较大提升。