空时编码技术是一种利用多天线阵发送和接收技术来提高系统频带利用率的编码技术,由于它在实现未来宽带无线通信方面的巨大潜力而成为通信界的一个研究热点。分层空时编码利用无线信道的多径传播特性来达到区分同波道信号的目的,无需提高信号发射功率和额外增加带宽就可以大幅度的提高系统传输速率。但是,分层空时编码无法获得分集增益,通常要和其它信道编码级联,一般称之为Turbo-BLAST。本论文首先详细阐述了多天线系统中信道编码的发展历程及目前级联空时编码技术的研究现状,研究了MIMO系统的信道容量理论及分层空时编码的受限信道容量。然后介绍了分层空时编码的编码器结构和检测算法,及Turbo-BLAST系统的迭代检测原理,并详细阐述了几种软输入软输出迭代检测算法,主要包括最大后验概率(MAP, Maximum a Posteriori)检测算法和软输入软输出球包限检测算法(Sphere Decoding)。最后针对Turbo-BLAST系统,提出了两种低复杂度的迭代检测算法。第一种算法是基于高斯近似原理的修正的高斯近似序贯迭代检测算法(MGA),该算法避免了原有高斯近似检测算法中的矩阵求逆运算,不仅具有较低的计算复杂度,且适用于接收端有任意根天线的情况。第二种算法是基于排序及干扰抵消的分组高斯近似迭代检测算法,主要包括分组高斯近似、降维MAP检测、排序和干扰抵消等四个模块。该方法可实用于任何调制方式,且不需要搜索所有信号组合,能进一步降低计算复杂度,同时具有相对较快的收敛速度。