多输入多输出(MIMO)技术是无线移动通信领域智能天线技术的重大突破，该技术能在不增加带宽的情况下成倍地提高通信系统的容量和频谱利用率。MIMO通信系统结合正交频分复用(OFDM)技术不仅能进一步提高频谱效率还具有良好的抗多径干扰能力，是第四代移动通信系统的关键之一。 广义的多天线技术(MIMO)主要包含空间复用技术和发射分集技术。而其中的发射分集技术，指的是在不同的天线上发射包含同样信息的信号，从而达到空间分集的效果。空间复用与发射分集不同，它在不同的天线上发射的是不同的信息，空间复用技术真正体现了MIMO系统容量提高的本质。分层空时码是空间复用的典型应用，本论文详细研究了垂直分层空时码(V-BLAST)在MIMO-OFDM系统中的应用及其信号检测算法。 论文首先对无线移动信道进行了研究和仿真，分析了V-BLAST系统模型，重点研究了V-BLASTMIMO-OFDM系统，比较了V-BLAST的几种典型算法，并将它们应用在V-BLASTMIMO-OFDM系统中，对其误码率性能进行了仿真和比较。 为了降低系统复杂度和提高系统性能，论文分别提出了两种改进算法：ML-OSIC-1和ML-OSIC-2。ML-OSIC-1算法在ML-DFE的基础上，交换了OSIC和ML的执行次序，用一次简单矩阵乘法减法运算取代了利用QR分解，寻找酉阵进行矩阵拆分的运算，降低了的复杂度，并得到了和ML-DFE相近的性能。ML-OSIC-2算法在各层结合使用OSIC，层间进行ML算法，减少了ML算法的搜索次数，避免层间干扰和误码扩散，性能与ML算法近似。 论文研究了空时分组码STBC，以Alamouti码为基础，将STBC与V-BLASTMIMO-OFDM相结合。对于传输速率和空间分集进行折中，给出了关于M发N收的信号检测模型，实现了空间分集技术和空间复用技术的结合统一。