随着近年来移动通信系统的不断发展,人们对于移动通信的系统容量和传输速率的要求也日益增。现今广泛采用的MIMO技术,在提升了信道容量的同时也引入了天线间的相互干扰。预编码技术将消除干扰的步骤移至发送端,能在降低接收端复杂度的同时解决天线间干扰的问题,这对现今的移动通信的发展具有重要的意义。由对发送数据处理方式的不同,可将下行链路预编码技术分为两种不同的处理方案:线性预编码和非线性预编码。前者利用在发送端进行信号检测得到信道信息,将信道中的天线间干扰预先消除,此技术复杂度较低且容易实现,但会降低接收端的信噪比,影响系统性能。后者通过对发送端待发送信号进行非线性处理,在消除信道间干扰的同时保证了接收端信噪比,因而非线性预编码技术能给移动通信系统提供较大的性能提升,但非线性预编码技术存在非常高的复杂度。因此,本文研究的主要内容在于保证通信性能的同时降低非线预编码的复杂度。非线性预编码优化设计研究的核心在于如何在复杂度和系统性能之间做均衡,在保证性能的基础上降低非线性预编码的复杂度,做到能效最优。本文首先对预编码现状进行简要的介绍,分析现有预编码技术在复杂度和系统性能上存在的优缺点。根据这些优缺点,着重讨论了一种对复杂度和系统性能进行折中的预编码方案,即部分VP预编码。部分VP预编码能在保证系统性能的同时降低系统复杂度,其核心内容在于算法的用户分组方案。然后本文对不同用户分组方案下部分VP预编码的系统能量效率和复杂度进行了深入的研究。通过分析和对比,几种现今较好的非线性预编码方案都存在用户分组算法采用过多矢量扰动计算而造成的复杂度过高的问题。本文提出一种能有效的降低用户分组算法的复杂度的非线性预编码方案:基基于功率下界估计的部分矢量扰动预编码。以发送端能量下界估计计算的用户分组方案,在降低用户分组复杂度的同时,将用户分组方案发送到接收端,将求模损失进一步降低,提高了系统性能。通过复杂度分析和能效性能仿真,本文提出的非线性预编码算法在复杂度和系统性能之间获得了较好的折中。