正交频分复用(OFDM)技术能够有效地对抗多径传播引起的频率选择性衰落。多输入多输出(MIMO)技术在不增加带宽的情况下可以成倍地提高通信系统的容量和频谱利用率。MIMO和OFDM相结合构成的MIMO-OFDM系统充分发挥了二者的优势,是下一代宽带无线通信的核心技术。接收机检测技术的优劣以及复杂度直接影响到通信系统的质量和应用前景。本文的研究重点是MIMO-OFDM系统的信号检测算法。首先分析了MIMO-OFDM系统的原理。其次介绍了基于空时/频编码的OFDM系统模型,即STBC-OFDM和SFBC-OFDM,研究了系统的联合最大似然(JML)检测、迫零(ZF)检测和判决反馈(DF)检测三种算法。然后研究了基于空间复用的OFDM系统结构和检测算法,包括最大似然(ML)算法、迫零(ZF)算法、最小均方误差(MMSE)算法、V-BLAST算法。针对V-BLAST算法多次矩阵求逆运算复杂度太高的缺点,提出了基于QR分解的逐级干扰对消检测算法,为进一步减少运算复杂度,利用迭代运算代替矩阵求逆运算,又提出了基于ZF准则的ZF-SQRD算法和基于MMSE准则的MMSE-SQRD算法。仿真结果表明,ZF-SQRD算法与ZF-OSIC算法相比其性能差别很小,而其计算量却大大减小了。MMSE-SQRD算法具有最优的综合性能。在文章最后重点研究了球形译码(SD)算法及其改进的KCL算法、加权KCL算法和基于MMSE准则的CL算法。仿真结果表明,改进的球形解码算法能够在降低计算复杂度的同时保持高性能。