无线协作中继技术是一种有效的抵抗无线信道衰落的方法,无需多输入多输出(MIMO)系统的额外复杂度,可以实现空间分集增益和扩大覆盖范围,引起了学术界和通信产业界的关注和研究。同时,国际标准组织IEEE802.16和IMT-Advanced等开展了中继技术的标准化进程。然而,无线协作中继通信技术无法有效地提高网络容量和频谱效率,面临着额外中继链路、调度复杂和干扰增强等问题。而网络编码允许网络中间节点对多个数据流进行联合处理,其优势在于提高网络吞吐量、均衡网络负载和增强健壮性。由于无线信道传输的广播特性,网络编码非常适合应用于无线协作中继网络,可以节省系统资源开销,进一步提高系统容量和频谱效率。因此,基于网络编码的协作中继通信,能够获得更好的系统性能,是当前无线通信网络的研究热点之一。本文对无线协作中继和网络编码的研究现状进行了归纳和综述,对基于网络编码的无线协作中继通信进行了深入研究。针对多跳链路间干扰、中继协作方式、调度策略和实现方法等问题,本文提出了相应的协作传输方案和设计方法,主要研究工作及创新性成果如下：(1)由于无线传输的广播特性,多链路和多跳协作中继传输会引起相互干扰。针对多跳中继链路并发传输的干扰问题,分析了多跳协作中继传输的网络干扰消除协议,提出了一种基于网络编码思想的干扰消除协作传输方案。该方案允许多跳链路并发传输,合理地利用了信号间的干扰,减少传输时隙,从而有效地提高网络容量。同时,从系统可达速率、中断概率以及系统吞吐量等角度,分析了不同中继协作方式的系统性能。仿真结果表明,干扰消除协作传输方案能够有效地提高系统可达速率、吞吐量和无线带宽利用效率。(2)针对AF协议的噪声放大效应和DF协议的错误累积问题,提出了一种基于网络编码的解调转发协作传输方案。中继节点采用解调转发方式,将计算并转发软信息；与网络编码有机地结合,进一步提高了系统性能,降低中继节点的处理时延和功耗。为了减轻和抑制目的节点的误码,利用等效单跳信道模型表达源节点-中继-目的节点的信道质量。在瑞利衰落信道下,推导并分析该方案的平均比特错误概率和分集增益。仿真表明,所提方案能够以较低的硬件复杂度和更高的频谱效率,获得较好的BEP性能和满分集增益。(3)为了提高直接链路传输、协作中继传输和网络编码协作传输结合应用的利用率,提出一种基于机会式网络编码的协作中继传输方案。该方案允许中继节点根据目的节点的有限反馈信息来决定是否帮助源节点做传统协作中继传输和网络编码协作传输。除非直接链路传输失败,否则中继将不会帮助其协作传输。理论分析和仿真结果表明,在最大平均互信息、中断概率和有限SNR的分集复用折中方面,该方案都能够获得更好的性能增益。(4)为了验证网络编码协作中继传输的实际性能增益,搭建了网络编码协作传输的实验平台,设计并实现了新的帧结构和编码协作传输协议,采用信道编码、交织和ARQ机制来保证数据传输的可靠性,缓解了无线传输中的丢包／误码。实验结果表明,与传统协作中继传输方案相比,网络编码协作传输方案可以获得25%的系统吞吐量增益。