多输入多输出MIMO系统，由于能够显著提高信道容量而成为下一代无线通信物理层关键技术的一大研究热点。垂直贝尔实验室分层空时码(V-BLAST)系统作为MIMO分层空时码的一支，能够在丰富散射环境下带来极高的容量，是MIMO系统和空时处理技术的重要研究内容。实验表明，V-BLAST在24至34 dB信噪比下可以实现20-40 bit／s／Hz的频谱利用率。然而，V-BLAST传统的接收机检测算法，由于其较高的运算复杂度而不适合于在时变信道下实现。本文对几种经典的V-BLAST系统的接收机检测算法，包括迫零(ZF)算法和最小均方误差(MMSE)算法等，进行了深入分析。在MMSE算法的基础上，本文提出了一种采用自适应算法的接收机实现方案，将最大似然(ML)信道估计和最小均方(LMS)自适应滤波算法结合在一起，构造一种适合于平坦慢衰落时变信道下的V-BLAST接收机结构，在运算复杂度方面有一定改善。同时，MIMO系统的研究已经逐渐由MIMO单用户系统向MIMO多用户系统转移。在MIMO多用户系统中，上行链路可以考虑为V-BLAST系统，而下行链路的信号处理技术则是难点和关键。在下行链路，目前多采用发送预处理的方式，将多用户信道分解为多个并行等效单用户信道，消除用户间的干扰，以进行空分复用。本文对MIMO多用户系统的下行链路发送预处理技术，尤其是线性的分块对角化技术进行了深入的讨论。针对时变信道下MIMO多用户系统的发送预编码问题，我们将提出的自适应接收机技术应用于MIMO多用系统的基站中，将V-BLAST自适应接收机和下行链路的发送预处理结合考虑，设计了一种适用于时变信道下MIMO多用户系统的完整的基站收发结构。