混合空时编码技术将空时分组编码和贝尔实验室分层空时编码有机结合,可以同时具备空时分组编码的空间分集增益和分层空时编码的复用增益,并获得折衷性能。然而,混合空时编码系统存在接收端检测复杂度较高和误码率（Bit Error Rate,BER）性能受限的问题。针对这些问题,当已知发射端信道状态信息（Channel State Information at the Transmitter,CSIT）时,考虑将预编码技术与混合空时编码系统进行有效地结合。具体而言,本文分别针对混合空时编码系统在发射端已知理想的CSI和非理想的CSI两种情况,对其相应的预编码方案展开研究。因此,本论文的主要研究内容概述如下:（1）当已知理想的CSIT时,为了消除迫零（Zero Forcing,ZF）准则下的基于QR分解的THP（Tomlinson-Harashima Precoding）算法给混合空时编码系统带来的噪声影响,提出了将最小均方误差（Minimum Mean Square Error,MMSE）准则的QR-THP算法与混合空时编码系统相结合的方案,改善系统BER性能。为了消除等效信道矩阵进行QR分解以后产生的较差子信道对系统可达性能的影响,提出将等效信道矩阵做几何均值分解（Geometric Mean Decomposition,GMD）,并将GMD-THP算法与混合空时编码相结合,分别在ZF和MMSE准则下得出其预编码方案。同时,探究了发射天线间的相关系数对系统BER性能的影响。通过仿真验证发现:所提出的融合方案比基于ZF-QR-THP的混合空时编码的非线性预编码方案能够取得更优的BER性能,很好地提升了系统的抗衰落能力。另外,发现发射天线间的相关系数与系统BER性能呈负相关。（2）混合空时编码系统在一些场景中较难获取到理想的CSIT,特别是当双工方式为频分双工（Frequency Division Duplex,FDD）时,需要借助有限反馈信道来获取CSIT。此时,为了提高系统BER性能,提出了将低复杂度的离散分数正弦变换（Discrete Fractional Sine Transform,DFRST）码本的有限反馈预编码技术与混合空时编码系统相结合的方案。每组Alamouti编码单元将会在DFRST码本中确定出相应的最优码字矩阵。通过仿真验证,当BER达到10^-3时,提出的方案比未预编码的混合空时编码系统能够获得至少2dB的增益。