空时编码技术是一种将信道编码技术与天线分集技术相结合,且能提供远高于传统单天线系统的频带利用率的编码技术。由于它在实现未来宽带无线通信方面的巨大潜力而成为通信界研究的一个热点课题。在传统的空时编码技术中,分层空时码(BLAST)和空时分组码(STBC)是目前研究较为广泛的两种空时编码方法。其中分层空时码能提供较高的频谱利用率,但其抗衰落性能差;而空时分组码具有较好的抗衰落性能、结构简单易实现且能达到满发射分集增益。但是,STBC编码速率受发射天线数限制。针对这种情况,本文结合分层空时码和空时分组码给出了一种基于网格编码调制(TCM)的分层结构空时分组编码方案,以克服分层空时码抗衰落性能差及空时分组码由于冗余的引入而导致编码速率低的特点;并针对此种结构给出了两种不同的解码方案。方案一,首先对接收数据进行线性变换,虚拟的将接收天线个数加倍,然后采用奇异值(SVD)组干抑制方法对信号进行分离。由于提出的新解码方案突破了SVD组干扰抑制技术对接收天线个数的限制,因此可降低接收端的复杂性。方案二,在接收端,利用数据特点构造出一种无需矩阵求逆的组干扰抑制方法。由于所提出的编码方案和组干扰抑制方法可有效分离各层发射信号以及新形成的信道矩阵为Alamouti矩阵,因此提出方案降低了译码的复杂性。最后的仿真结果验证了本文提出的解码方案的系统误码性能优于传统组干扰抑制法的系统误码性能,也验证了本文提出方案的有效性。