移动通信系统的宽带、小型化以及高效率的发展趋势,给射频功率放大器（Power Amplifier,PA）的高效率、大带宽输出提出更高的要求。射频功率放大器的固有非线性将严重恶化传输信号质量、干扰邻道信号传输。作为目前射频功率放大器的主流线性化技术之一,数字预失真（Digital Predistortion,DPD）技术的发展与移动通信系统的演进密切相关。5G技术的应用,催生了适用于大规模MIMO架构的宽带数字预失真系统的需求,带限欠采样是低复杂度实现宽带DPD的有效方法之一。带宽的增加带来了数字预失真模型复杂度的提升,智能化的发展趋势也要求数字预失真系统能够根据信号以及PA工作状态的改变及时调整最适合当下环境的模型,进而催生了自适应选择高性能、低复杂模型的需求。此外,通信系统的大带宽、小型化发展,需要数字预失真在保证线性化性能的同时降低硬件复杂度。因此,本文将围绕上述问题展开针对MIMO波束成形架构下的欠采样DPD、宽带PA的模型自适应优化以及低复杂度反馈链路下的DPD系统三个方面的研究。首先,围绕着混合波束成形的大规模MIMO系统,分析了阵列功放非线性与无线信道结合的非线性行为,提出了单用户欠采样的数字预失真架构。通过在反馈链路引入带限滤波器以限制采样带宽从而实现欠采样,由设置的逆波束成形模块生成主波束的远场等效信号,参与随后的预失真模型参数的提取。然后将此方法进一步拓展到全连接混合波束成形多用户场景,推导并建立了多用户场景下的数字预失真模型,提出一种适用于多用户场景的欠采样数字预失真方法。此外,松弛了上述研究中关于阵列PA的一致性假设,分析并提出了一种低复杂度的阵列功率放大器不一致预补偿方法。仿真测试验证了所提出的方法有效降低采样带宽的能力,以及对于阵列PA不一致的显著补偿效果。其次,提出了自适应优化基函数的数字预失真方法。通过建立的模型搜索机制,自适应的根据当前的输入信号以及PA的工作状态快速搜索最适合的预失真模型。将降低模型复杂度、提升前向建模性能作为两个主要的目标,构建合适的代价函数,分析并提出了鲁棒性高、搜索能力强的两种启发式算法。所提出算法均具有较强的全局搜索能力,能够快速趋向较优解集;同时,它在较优解集展现出较强的局部搜索能力,可细化搜索,以选择高建模精度与低复杂度兼具的最优模型结构。考虑到Volterra简化模型基函数之间的相关性,使用正交匹配追踪算法得到的最优模型结构再优化,进一步降低模型的自适应复杂度。实验测试表明,算法具有快速收敛到最优解集的能力,在60MHz和100MHz场景下优化后的模型具有与传统搜索模型相当的性能,同时,计算复杂度分别降低了约75%以及80%。最后,提出降低反馈链路中模数转换器动态范围与采样带宽的两种预失真架构。在降低反馈链路动态范围方面,构建了闭环低比特数字预失真架构,推导了预失真参数的更新公式;并通过信号统计特性的分析提出只使用一条反馈链路的实数化的数字预失真结构。在降低采样带宽方面,通过多窄带频域分割采样的方法实现了反馈链路采样带宽远低于放大器输出信号带宽的欠采样,并通过上采样和数字变频之后的子带信号前向建模估计完整的PA输出信号用于数字预失真器的参数提取。实验测试验证了所提方法的有效性:相比于高精度、满采样的理想数字预失真算法,上述两种方法在保持线性化性能的前提下,有效降低了反馈链路的硬件成本。在闭环单路低比特数字预失真只使用一条8比特量化精度的ADC采样反馈链路;在基于前向建模的频域分割采样数字预失真方法则将采样带宽降低到输出信号满采样的1/6甚至以下。综上可知,上述三类工程问题的研究有效解决了宽带MIMO波束成形架构中阵列PA的线性化、数字预失真模型的自适应优化以及超宽带场景下的反馈链路复杂度过高的问题。因此,本文所提出的MIMO波束成形架构的欠采样DPD、宽带PA模型的自适应优化算法以及低复杂反馈链路下的DPD系统实现方法,为5G系统PA的宽带、高效、低成本小型化设计提供了重要参考。