在5G的备选调制方案中,滤波器组多载波(Filter-bank Based Multi-Carrier,FBMC)技术是颇具潜力的一种多载波方案。与4G-LTE采用的OFDM技术不同,FBMC的原型滤波器进行了特别的设计,拥有良好的时频局部特性。由于对传输符号增加了额外滤波,FBMC技术不需要插入了循环前缀(Cyclic Prefix,CP),且载波间也无需保持严格地同步。由于FBMC技术具有诸多优势,因此,本文分别在单输入单输出(Single-Input Single-Output,SISO)系统和多输入多输出(Multiple-Input Multiple-Output,MIMO)系统中,研究了基于FBMC的数据传输技术。本文内容研究如下:(1)研究FBMC的基本原理。首先,从传统的FFT滤波器原理、FBMC原型滤波器的原理以及时域多相网络(PolyPhase Network,PPN)实现滤波器组三个方面,对滤波器组的基本原理进行了研究。滤波器组模块由合成滤波器组(Synthetic Filter Bank,SFB)和分析滤波器组(Analysis Filter Bank,AFB)构成。发送端的SFB负责FBMC系统调制,接收端的AFB负责FBMC系统解调。因此,从SFB调制原理、AFB解调原理以及偏移正交幅度调制(Offset Quadrature Amplitude Modulation,OQAM)角度,研究了FBMC系统的调制、解调原理。最后,简单阐述了OFDM基本模型,并总结了FBMC技术的优势。(2)研究了基于SISO-FBMC的数据传输系统。首先介绍了数据传输系统中涉及的主要通信技术,阐述了信道编码和带通调制。其次,在AWGN信道环境下,研究了数据的传输原理和SISO-FBMC数据传输系统模型;随后,详细介绍了无线信道和信道估计技术。接下来,在无线信道环境下,阐述了数据的传输原理和SISO-FBMC数据传输系统模型。在仿真实验中,SISO-FBMC传输系统分别采用了AWGN信道、瑞利信道和IEEE802.20信道。实验仿真了不同信道环境下,数据通过SISO-FBMC数据传输系统的误码率和成功率,并与SISO-OFDM数据传输系统相比较,仿真结果表明FBMC技术优于OFDM。(3)研究了基于MIMO-FBMC的数据传输系统,并仿真构建了该数据传输系统。首先分析了MIMO系统概况,随后,介绍了MIMO信道容量;作为MIMO的关键技术,对空间分集技术和空间复用技术也进行了分析。将MIMO系统与FBMC技术相结合,研究了基于MIMO-FBMC的数据传输系统,重点介绍了该系统模型和数据传输原理。最后,在仿真实验中,采用2发2收的天线结构,实现了基于MIMO-FBMC的数据传输系统,计算出每根接收天线上数据传输的误码率和成功率,并对实验结果作进一步的分析。