无线通信在人们的日常生活中无处不在。随着人们对无线通信要求的不断升高，如何提高系统性能成为通信研究人员关注的核心问题。无线协作通信因其可提供更好的通信质量、更高的系统容量、更广的通信覆盖、更丰富的服务以及高频谱利用效率，被认为是未来通信系统中的关键技术。网络编码的提出能够有效消除无线协作通信面临的传输瓶颈问题。通过与相关通信技术进行合理地联合设计，网络编码能够在较简单的技术方案下，有效提升系统性能。本文以无线协作通信系统作为网络编码技术的应用模型，研究在不同的场景下，联合网络编码的协作方案对系统性能的影响。通过系统中断概率、误比特率、系统遍历容量等性能指标进行仿真分析比较。针对两种不同的协作通信模型应用两种不同的网络编码形式，首先，提出基于传统网络编码的协作方案，分析系统的中断概率以及分集复用增益。仿真结果表明，应用网络编码不仅能够有效提高系统的容量，而且可获得比传统协作方案更低的系统中断概率，同时在不增加硬件成本的前提下获得更高的分集复用增益。然后，提出了基于物理层网络编码联合分层调制的非对称协作方案，在此场景下研究当中继节点位置发生变化时，系统性能的变化，主要考察系统的端到端误比特率及遍历容量。其次，提出在多中继协作通信模型下，基于物理层网络编码的单中继选择方案，给出中继节点选择标准并通过仿真分析系统中断概率，证明所提方案的合理性。最后，提出基于物理层网络编码的差分调制协作方案，并提出次优中继选择准则，简化中继选择的复杂度，并分析系统的最优功率分配方案。通过仿真对比最优功率分配方案与等功率分配方案的性能，证明所提方案的优越性。