随着现代无线通信业务的快速发展,人们对更高速率和更好质量服务的要求和日益紧张的无线频谱资源之间的矛盾越来越大。多输入多输(MIMO)技术已被证明能在不增加带宽和发射功率的情况下,能有效提高系统的频谱效率和差错性能。但由于实际终端的种种限制,其难以应用于实际通信系统。协作通信的产生为其找到了突破口。其主要思想就是通过增加中继链路以形成虚拟MIMO,从而达到分布式传输,来获得分集增益。出于对用户终端公平性及功率限制的考虑,在系统中通过部署中继站来构成协作中继系统比用户间协作更具可行性。本文主要研究了在多中继系统中的协作通信预编码技术。首先,在查阅大量相关文献的基础上,对协作MIMO中继系统和预编码技术的国内外研究现状进行了综述。在第二章中对现有的MIMO点对点系统预编码和检测技术进行了简单的介绍和分析。然后,引出了协作MIMO的多中继传输模型。在单源单目标节点的多中继系统中,多中继技术的优势是各个中继链路形成的分布式传输结构。为了能够在目标节点实现各个中继信号的同相叠加,可以采用中继节点的双向迫零、最小均方误差和QR分解的处理方法。而后分析了一种基于最小均方误差的双向QR分解中继处理方法。它很好的结合了最小均方误差方法和QR分解方法的优势,考虑了噪声的影响,将系统信道等效三角化,辅以串行干扰消除检测。通过仿真,验证了其对系统差错性能的提升。最后,研究了单源多目标节点和多源多目标节点情况下的多中继传输结构。对于前一种模型,分析了块对角化联合奇异值分解或几何均值分解的联合预编码方法,将系统转化为多个并行子信道,从而消除了用户间干扰。为了获得分布式阵列增益,研究了一种迫零与块对角化结合的中继处理方法。对于后一种模型,也可以通过块对角化辅以额外处理的方法消除不同用户间的干扰,同时获得分布式阵列增益。通过仿真比较了不同处理方法的性能特点。