近年来，通信技术的发展给人们的生活带来了很大的方便，然而人们却给无线网络提出了更高的要求，不管在什么地方，人们都想时时刻刻能享受到网络带来的方便和乐趣。为了满足人们的愿望，解决因为网速问题带给人们的困扰，提高网络的吞吐量和频谱利用率成为了当前迫在眉睫的问题。2006年，物理层网络编码（Physical LayerNetwork Coding）即PNC概念的提出，为提高网络的最大数据传输速率提供了便利的条件。PNC概念提出的最初应用在无线通信网络，为了提高无线信道的抗噪性和健壮性，将PNC技术和信道编码技术、调制技术相结合成为了目前重要的研究方向。本文根据物理层网络编码技术和编码调制技术的研究现状，主要研究了以下的内容：首先本文详细介绍了物理层网络编码的基本原理和实现技术，并对物理层网络编码技术实现过程中存在的问题进行了总结，最后展望了物理层网络编码的发展趋势。其次本文研究设计了Turbo编码调制在物理层网络编码中的应用方案。首先对Turbo码的编译码原理及算法进行了介绍；重点是在TCM信道编码与PNC联合设计方案的基础之上，研究设计出一种Turbo编码调制（T-TCM）与PNC联合设计的实施方案，而且对本方案的框图进行了系统设计，并对本方案进行了分块研究，最后通过仿真证明了本方案在无线双向中继信道中确实能取得较好的性能。同时本文研究设计了另外一种性能较好的信道纠错码—即LDPC编码调制技术应用到物理层网络编码中的方案。文中首先详细介绍了LDPC码的编码器结构和译码算法，并对LDPC编码调制在物理层网络编码中的应用进行了重点研究，并通过仿真分析了该机制的性能。最后对本论文所做工作进行了总结，并分析了论文完成过程中遇到的问题，提出了物理层网络编码未来的研究方向。