本论文是研究MIMO信道下的分层空时信号处理技术，主要工作可概括如下： 　　1.在深入研究常用的MIMO-BLAST系统的检测算法基础上，通过引入分组多用户的思想，提出了低复杂度的分层空时接收机；分析和研究了收发端联合优化方案，并和VBALST算法作了对比分析。 　　2.推导了在空间相关信道下，空时分组码误码率的上下界。分析和评估了VBLAST和STBC(空时分组码)在相关信道下的性能，提出了一种将STBC和VBLAST算法相结合的接收机方案。分析和仿真结果表明：VBLAST受信道相关性的影响较大，STBC由于码本身的正交性，因而受信道的相关性影响相对较小，而VBLAST和SBTC相结合的接收方案克服了VBLAST体系结构和STBC各自的缺点，提高了整个系统的性能。 　　3.基于块传输模型，将窄带MIMO空时信号处理算法推广到频率选择信道，并在频率选择信道下分析和仿真评估了算法的性能，分析了信道相关性对系统性能的影响。 　　4.推导了频率平坦、频率选择MIMO信道下的最小二乘信道估计(LS)误差，将信道估计误差等效为高斯噪声，推导了信道估计条件下的系统等效信噪比，可以用来评估训练序列对系统的影响。