未来无线通信的目标是在实现更高的传输速率和频谱利用率的同时要求更低的时延及功耗。无线信道的衰落特性是影响无线通信系统性能的主要因素。虽然增大发射功率可以用来扩大覆盖范围从而提高服务质量,但这种方法不仅导致了功耗增大还带来了小区间干扰的问题。分集技术是对抗衰落的重要手段。空间分集技术是分集实现的一种方式,它可以在不占用额外的频谱、时间资源的情况下提高系统传输的可靠性。然而,在无线传感器网络、蜂窝移动通信等无线通信系统中,由于受成本、体积等因素的限制,很难在用户终端配置多个天线来获得明显的分集增益。因此,在实际应用中多天线一般只能在接入点或基站实现。协作分集是解决这一难题的有效方案,其基本思想是通过配置了单根天线的用户之间的协作,构成一个虚拟的MIMO,从而实现空间分集。近年来,学者们针对协作通信做了大量的研究。低密度奇偶校验(low density parity check,LDPC)编码协作通信是其中的一个重要分支,它将LDPC码技术和协作分集技术相结合,使得系统在获取协作分集的同时获得LDPC码带来的高编码增益。本文围绕LDPC编码协作技术展开工作,重点研究LDPC编码协作系统性能及码的设计,主要工作包括以下几个方面:1.研究了单中继及多中继场景下编码协作系统的基本模型,介绍了编码理想协作和非理想协作的概念,并在此基础上分析了编码非理想协作的乘性干扰特点。2.提出了一种采用多天线目的端的编码协作通信系统,该系统能同时获得协作分集增益、编码增益和接收分集增益。针对该系统,提出了基于正规LDPC码的协作方式,推导出单/多中继编码协作系统的目的点等效校验矩阵,给出了与之对应的三层/多层Tanner图,并在此基础上提出了两种联合迭代译码算法:联合BP迭代译码算法和联合MS迭代译码算法。这两种联合迭代译码算法的每一次迭代都完成了两个子译码器的信息传递,用更少的迭代次数实现了更显著的性能提高。3.提出了编码协作通信系统中准循环LDPC(Quasi-cyclic LDPC,QC-LDPC)码的联合优化构造算法。首先,介绍了QC-LDPC码基于基阵和指数阵的构造方法,同时介绍了QC-LDPC码的一种快速编码方法。其次,从Turbo原理迭代译码的角度分析了环路对QC-LDPC码性能的影响,并给出了基于基阵和指数阵构造的QC-LDPC码Tanner图中无四环的充分必要条件。最后,在分析单/多中继编码协作通信系统中QC-LDPC码环路特点的基础上,提出了一种对源和中继节点采用的QC-LDPC码进行联合优化构造的算法,该算法可以为编码协作通信系统中源节点以及中继节点提供围长至少为6的QC-LDPC码,同时可以保证目的点等效校验矩阵中无四环。4.研究了一类特殊的非正规LDPC系统码—RA码,提出了一种基于虚拟V-BLAST的多中继RA编码协作通信方案,并设计了两种高效的信号检测译码方案:基于MMSE-SIC算法的串行检测译码和基于MAP算法的联合迭代检测译码。两种检测译码方案中的MIMO检测器和LDPC码联合迭代译码器分别以串行和Turbo迭代的方式进行配合,完成最终的检测和译码。