近些年来,移动应用和数据流量的爆炸式增长使得适应性强、灵活且高效的无线接入技术的发展变得十分必要。出于这个目的,基于多载波方案的通信被看作宽带无线系统下一种很有吸引力的方案,并得到了广泛的应用。其中,正交频分复用(Orthogonal Frequency Division Multiplex,OFDM)技术占据主导地位。但OFDM本身也具有一些缺点,比如高频谱泄露、严格的同步要求及对载波频率偏移敏感等。下一代的无线传输技术不仅对数据速率提出了更高的要求,还出现了一些新的应用场景:如触觉互联网、物联网、碎片化频谱等。海量的用户接入、高效的频谱使用以及实时连接的要求使得OFDM很难保持正交性,变得不再适用。因此,许多研究者对于下一代通信技术的新波形进行了深入研究。综合波形的时频聚焦性(Time Frequency Localization,TFL)、系统复杂度及频谱利用率等方面的考虑,本文选取滤波器组多载波技术(Filter Bank Multi-Carrier,FBMC),即基于交错正交调制的正交频分复用(Offset Quadrature Amplitude Modulation based Orthogonal Frequency Division Multiplex,OFDM-OQAM)技术作为研究对象,通过对原型滤波器的性能分析以达到改善系统在双选信道下误码率性能的目的,主要分为以下三个内容:首先,在多载波通信的框架下对OFDM-OQAM的系统进行数学建模,包含系统的连续和离散数学模型,之后对原型滤波器需要满足的正交条件进行数学推导,为第4章的研究打下基础。其次,研究OFDM-OQAM具体的实现方案,包括滤波器组的实现和OQAM调制的实现。滤波器组的实现分为时域上基于IFFT/FFT+多相网络和频域上基于IFFT/FFT+频域扩展的两种实现方式。OQAM调制的实现则是在对系统固有干扰分析的基础上进行分析和实现的。之后,针对OFDM和OFDM-OQAM在信号带外特性、系统实现复杂度和具体信道环境下的误码率特性进行仿真和对比分析。最后,鉴于原型滤波器决定了符号间的关联性和系统对抗双选信道的鲁棒性,本文重点对OFDM-OQAM系统中几种常用原型滤波器进行研究,即矩形、高斯、半余弦、扩展高斯(Extended Gaussian Function,EGF)、Hermite和PHYDYAS滤波器函数。从符号的关联性上看,本文对滤波器TFL特性的几种评估参数进行介绍,并选取模糊函数作为研究重点,因为它更能直观的表现系统所受的ISI和ICI的影响。从系统对抗双选信道的鲁棒性上看,本文选取信号干扰比(Signal to Interference Ratio,SIR)和双选信道下的误码率作为研究对象,对不同时偏和频偏下的各滤波器的SIR进行理论推导和仿真研究,并对ITU模型中四种信道环境下系统的误码率进行仿真和对比分析。