在无线通信系统中，用户通常需要系统能够提供较低的数据包错误概率和较高的系统吞吐量。混合ARQ(HARQ)是降低误包率、提高系统容量的有效手段之一。目前，几乎所有的现代无线通信系统都采用了HARQ技术，以保证可靠的服务质量。 多输入多输出(MIMO)无线通信系统由于在发送端和接收端采用了多个天线，可以极大地提高系统的容量。目前已有很多MIMO技术可以明显地提高系统性能，但是这些技术往往没有和HARQ/AiRQ技术有机地结合，所以在和ltARQ技术联合使用时不能发挥系统的潜力。 本文主要研究MIMO系统的线性预编码器和HARQ的联合设计。在发送端已知信道的完全信息时，人们已经分别基于最大信道容量和MMSE准则推导出了ARQ重发时的最优序贯线性预编码器。我们推广已有的研究成果，利用信道的部分信息来为ARQ重发设计相应的预编码器。针对平坦衰落MIMO信道，我们进一步利用信道协方差矩阵，设计了ARQ重发时的次优预编码器，以获得最大的各态历经系统容量。仿真结果表明，本文提出的次优预编码器可以获得明显的性能增益。利用Jensen不等式，我们还设计了其它三种不同类型的次优预编码器：基于信道协方差信息的MMSE线性预编码器，基于信道均值信息的最大系统容量的线性预编码器和基于信道均值信息的MMSE线性预编码器。 本论文的第二部分以MIMO-GMC试验系统为平台，研究了多种。HARQ技术的应用。我们首先研究了如何有效合并多次发送的信号，根据MIMO-GMC系统Turbo接收机的特点，了三种简单的合并算法，通过计算机仿真，比较了它们的性能。 为了减小由ARQ重传引起的系统时延，我们在系统中引入了短TTI和快速HARQ。短TTl和快速HARQ是以物理层的少量性能损失为代价来减少系统时延，适应TCP/IP高速传输需求。为了使系统获得更高的传输效率，我们还研究了采用星座图重排的HARQ，它可以获得符号映射分集。仿真结果表明，重排星座图可以获得很大的性能增益，而系统只增加了少量的复杂度。