随着无线通信在最近几十年的快速发展，移动通信经历了翻天覆地的变化，给人们的生活带来了全新的体验，人们对无线网络的需求也越来越高。如何在有限的频谱资源上实现综合业务内容的快速传输，需要频谱效率极高的技术。多输入多输出(Multiple-input Multiple-output，MIMO)技术充分利用空间资源，极大程度的提高了信道容量和传输速率。应用MIMO技术的通信系统相对于单输入单输出(Single-inputSingle-output，SISO)系统存在性能优势，同时，在实际系统中其相对于SISO系统也带来了新的问题，如天线间的串扰等。MIMO技术带来的问题结合无线通信系统中已有的问题，产生出新的待解决的难题。　　本文以移动通信系统中的MIMO系统为基础，对MIMO系统中的射频不利因素进行了调研，并对其中的串扰和功率放大器（Power Amplifier, PA）非线性的共同影响的建模和补偿两方面进行了深入的研究，主要工作如下：　　首先，推导了MIMO系统发射端的非线性模型。根据实际MIMO系统中各天线间存在的串扰对射频前端功率放大器非线性预失真造成的性能损失，研究了MIMO系统中串扰和功率放大器非线性的共同影响，并在此基础上对两者的结合造成的影响进行了建模且提出了相应的补偿模型。　　其次，提出了MIMO系统发射端的非线性补偿算法。根据提出的基于天线间串扰和功率放大器非线性共同影响的MIMO系统的非线性模型，提出使用序列设计的方法进行参数估计，该方法能够分别估计出串扰系数和功率放大器非线性预失真系数用于两个因素的独立补偿。相对于已有的模型和算法，我们提出的算法具有较低的复杂度和较高的精确度。　　最后，在非线性预失真算法的硬件实现中应用正交归一化基函数，该方法降低了硬件实现中的定点化长度和硬件资源消耗。同时由于正交归一化基函数的应用，现有算法可以化简为形式更简单更高效的算法，进一步降低了硬件资源的消耗。