理论研究表明:瑞利衰落信道富散射环境下,多天线系统(MIMO)可显著提高通信系统的传输容量。贝尔实验室垂直分层空时码就是这样一个多天线系统。本文以该系统为研究对象,研究其各种检测方法,重点着眼于衰落信道相关性及信道估计误差对其最大似然接收机差错性能的影响。论文主要工作和成果可概括如下:首先,基于MIMO系统模型,从信息论角度分析MIMO信道容量。研究垂直分层空时码最大后验概率、最大似然、线性迫零、最小均方误差、连续干扰消除、QR分解、迭代QR分解和球译码检测算法,通过仿真实验对各算法性能进行详细比较和分析。其次,以垂直分层空时码最大似然接收机平方欧氏距离的统计特性为研究出发点,在理想信道和非理想信道估计两种情况下,推导出非相关及相关瑞利衰落信道成对差错概率的精确及高信噪比近似计算公式;并以近似计算公式为基础,定量分析相关性和信道估计误差对最大似然接收机分集增益及信噪比损失的影响。最后,介绍正交频分复用(OFDM)基本原理和MIMO-OFDM系统结构,研究TU信道模型下OFDM系统导频信道估计方法,推导给出MIMO-OFDM系统在任意空间相关信道下成对差错概率公式和系统可获得的最大分集增益。