多载波调制技术通过将数据调制到低速并行的多个子载波上,可以在有限的频谱资源上提升频谱效率,并且能够在有效的频带内提供可靠的数据传输。身为多载波调制技术的一员,正交频分复用技术(OFDM)可以抵抗一定的信道衰落,但是存在能量效率和频谱效率比较低、对载波频偏敏感和带外辐射高的缺点。针对这一问题,学者们在多载波调制领域进一步探索,提出了基于索引调制的OFDM技术(OFDM-IM)和滤波器组多载波技术(FBMC)。相比于OFDM,虽然OFDM-IM和FBMC的复杂度有所提升,但是OFDM-IM具有更高的能量效率,可以通过配置每个子载波组中的活跃子载波个数来实现系统误比特率(BER)性能和频谱效率之间的按需调节;FBMC具有更高的频谱效率,而且能够抵抗一定的载波频偏,带外衰减也大大的降低。因此,针对OFDM-IM和FBMC进行研究,具有很重要的理论意义和应用价值。本文从OFDM-IM和FBMC的基本原理出发,分别指出其中的关键研究点;然后以提升系统容量为目标,将OFDM-IM扩展到多输入多输出系统(MIMO)中;同时以提升系统BER性能为目标,将索引调制引入到F1BMC和圆周卷积FBMC(C-FBMC)系统中;解决了基于索引调制的多载波系统的关键问题。首先,论文介绍了 OFDM改进波形OFDM-IM和FBMC的基本原理。论文给出了 OFDM-IM的系统模型、基本原理以及接收端的检测方式。然后对比OFDM,论文对OFDM-IM的BER性能和可达频谱效率界限进行了分析,说明OFDM-IM在这两方面存在的优势。针对FBMC系统,论文讲述了FBMC的基本原理,分析了FBMC在频谱效率方面的优势,介绍了 FBMC基于FFT的实现方式和常用的滤波器。其次,为了提升OFDM-IM系统的容量,论文将OFDM-IM扩展到MIMO中,提出了 MIMO-OFDM-IM系统模型。由于索引调制的引入,MIMO-OFDM-IM系统有着比传统MIMO-OFDM系统更好的BER性能,但是最优检测复杂度过高,现有的检测算法的BER性能较最优检测器还存在很大的差距。为解决这一问题,论文提出了基于子载波组层面进行树搜索的K-best-1检测算法和基于子载波层面进行树搜索的K-best-2检测算法。K-best-1检测算法的复杂度与活跃子载波的个数成指数关系,K-best-2检测算法与调制阶数成倍数关系。这两种算法一方面可以达到近似最优检测的BER性能,另一方面能够大大地降低检测的复杂度。然后,论文探究了索引调制在FBMC系统中干扰削减方面的应用。论文讨论了在双色散信道下FBMC系统的干扰能量,通过理论分析和仿真指出,信道条件越恶劣引入的干扰越大,并且简单的迫零(ZF)均衡不能完全消除干扰。然后,根据干扰主要来自周围符号和子载波的特点,论文将索引调制引入到FBMC系统中,提出了基于索引调制的FBMC(FBMC-IM)系统,它能够在保证频谱效率的同时削减干扰能量。为了减弱残余干扰的影响,论文对FBMC-IM系统进行了优化设计。基于最大化汉明距离和最少劣质子载波组的原则,论文提出最优组合选择算法并根据此算法选择最优的子载波组。在选择完成最优子载波组后,通过最优组合映射准则,将索引比特映射到所选的子载波组上。经过优化设计,FBMC-IM系统的性能得到提升。最后,论文探讨了索引调制在C-FBMC系统中提升BER性能和频谱效率方面的优势。论文首先给出了传统FBMC系统在突发通信中存在频谱效率下降的问题。然后针对现有截断法正交性被破坏和圆周卷积法在多径下引入干扰的缺点,论文提出了基于索引调制的C-FBMC系统(C-FBMC-IM),并且对接收端的数据处理方式进行了改进,在接收端先进行频域均衡然后再做FBMC解调,使得C-FBMC-IM系统中多径引入的干扰远远小于C-FBMC系统。最终,通过理论分析和仿真得出,索引调制能够给C-FBMC系统带来BER性能和频谱效率两方面的提升。