调制是数字通信系统中的基础环节。无线数字通信中传统调制方式有ASK、PSK、FSK、QAM。而近期发展起来的4G标准所建议的调制方法是采用多载波调制的OFDM。由于OFDM相比于其它方法具有更好的抗无线信道的多径时延等能力，可以实现高比特传输率。但是该调制方式对各子载波之间正交性约束要求严格。因此无线信道存在的多普勒频移以及发射机载波频率与接收机本地振荡器之间存在的频率偏差导致的子信道之间的信号相互干扰会影响OFDM系统的传输可靠性。因此本文就一种新的调制方式—非正交多重调制技术(NMT)在无线通信系统中的应用做了仿真和分析。NMT可扩展为多位置键控(MLSK)、非正交多重幅度调制(NMAM)和非正交频分复用(NFDM)三种形式。已有的研究结果表明NMAM在电话线传输环境(xDSL)中能极大地提高传输速率和传输距离。 本文对MLSK、NMAM调制技术在无线通信中的应用做了仿真研究。以瑞利信道为模型，用MATLAB软件对系统性能进行仿真试验。分析了在AWGN信道下和瑞利信道下不同的解调方式对应的MLSK的系统性能，并且在相同条件下与PSK的性能进行对比。对于NMAM技术，研究了加入波形预处理和基于训练序列的信道估计方法对系统性能改善的影响，在相同传输条件下与传输效率较高的16QAM对比系统性能。试验比较了MLSK与PSK在相同的信道参数和传输率时的系统性能，结果表明MLSK具有频带利用率高的优点。NMAM的仿真试验结果表明波形预处理和信道估计可以提高系统性能。与16QAM在同样系统参数条件下相比，NMAM具有更可靠的传输性能。最后对NFDM和OFDM做了定性的分析比较。