下一代宽带无线通信系统要实现在有限的频谱资源的条件下提供更多的通信业务、更高的通信速率和更好的通信质量。在此需求的背景下,通信领域面临新的挑战,由于多输入多输出(MIMO)无线通信系统具有不需要损失频带资源和发射功率资源就可提高数据传输速率的优点,而正交频分复用(OFDM)技术具有通过降低子载波上的数据流速率和插入循环前缀,可以消除码间干扰(ISI)大大提高频谱利用率的优点,故将MIMO系统与OFDM技术相结合构成MIMO-OFDM通信系统,将成为下一代宽带无线通信系统(4G)的核心技术。无论是MIMO系统、OFDM技术还是MIMO-OFDM系统,都存在着各自的主要问题和关键技术。比如MIMO系统主要有信道建模、信道容量、空时编码、信道估计、2D-RAEK接收、空时多用户检测等关键技术；OFDM技术中主要有峰均比、同步、信道估计、频偏估计、交织与编码技术等关键技术；而MIMO-OFDM系统则不但上述关键技术都有,而且又添加了二者结合后带来的类似关键技术。比如：MIMO-OFDM系统的峰均比等。因此,对MIMO、OFDM以及MIMO-OFDM系统的关键技术的研究,成为目前通信领域学者和研究人员的研究热点；由于MIMO-OFDM系统将成为4G通信系统的核心技术,所以该方面的研究工作和研究成果无论是对理论研究还是对工程应用都是非常有意义的。本论文对MIMO系统的空时编码、MIMO相关信道建模与信道估计、OFDM系统的同步以及MIMO-OFDM系统的峰均比等关键技术进行了深入研究,并获得一定的研究成果。论文具体工作内容如下：1.对空时分组码(STBC)在MIMO系统的平坦慢衰落信道、平坦时变衰落信道和频率选择性衰落信道下的性能开展了深入分析和研究；并分别针对上述三种信道模型进行了仿真分析。该部分工作弥补了当时对空时分组码在信道为时变衰落信道和频率选择性衰落信道下的性能研究工作的不足,并得到一些有参考价值的研究结果。2.对MIMO系统的相关信道模型和信道估计算法进行了研究。一是在总结现有方法和模型的基础上,综合考虑MIMO信道的衰落特性和相关特性,经合理选择空间变量,建立了一个较为合理且相对简单的MIMO空时相关信道模型。二是在了解掌握了平坦衰落下MIMO信道数学模型的基础上,对利用训练矩阵完成MMSE估计的MIMO信道算法进行了分析与仿真,证明其收敛速度有改善。3.对OFDM系统中的同步技术进行了深入研究。一是在Schmidl算法的基础上,提出了一种改进的OFDM联合时间频率同步算法。该算法拓宽了频偏估计范围,消除了Schmidl定时同步算法中的峰值平台现象。二是通过构造一种新的在频域上具有特殊相位旋转关系的训练符号结构,提出一种新的符号定时和频率同步算法,新算法具有符号定时精确和频偏估计范围大、精度高的优点。4.对MIMO-OFDM系统的峰均比算法进行了深入研究。首先,结合SFBC的编码特性及IFFT共轭和圆周移位特性,提出了适用于SFBC MIMO-OFDM系统的二次部分传输序列(T-PTS)算法,并对T-PTS算法进行次优化处理,引出RT-PTS算法,简化了权值的搜索过程,降低了运算复杂度,仿真结果证明了该算法可在较低复杂度下获得较优越的峰均比抑制效果。其次,利用IFFT的线性、共轭以及圆周移位特性,结合SFBC的编码特点,对CFPI算法进行了改进,提出适用于SFBC MIMO-OFDM系统的多相旋转交换PIP算法。该算法在获得较好抑制PAPR的同时降低了运算复杂度；并得到仿真证明。