网络编码打破了路由节点存储转发信息的传统工作模式,提出在路由节点上可以进行不同信息流的编码组合再转发的新处理机制。网络编码的基本思想是传统的路由机制的广义化,根据网络编码基本思想,网络中的节点不仅可以进行简单存储转发处理,也可以进行许多复杂、更高级的信息处理；网络中间节点不只关注单一链路的信息处理,而从整体网络结构的角度来重新规划节点的信息处理操作,为解决通信中的问题提供了新的解决思路。将网络编码引入无线通信领域,可以在许多方面提升通信系统的性能。特别是网络编码与无线中继技术的结合,是当前最有意义、也最具潜力的研究方向之一。本文在这样的背景下,基于网络编码的双向中继系统,对物理层的相关信息处理技术进行研究。本文的主要研究工作包括：首先,总结了国内外关于网络编码在无线通信领域中的研究成果。论述了网络编码基本原理、线性网络编码构造原理及构造方法,以此作为进一步研究双向中继系统中物理层网络编码的理论基础。其次,研究了双向中继系统中去噪转发(DNF:denoising-and-forwarding)网络编码的各种形式。对对称调制方式下DNF网络编码的研究进行了论述,并推导了中继节点网络编码错误概率表达式。研究了不对称调制方式下的DNF网络编码的具体实现方式。包括中继接收叠加信号星座图的分析,不同信号关系非传统判决区域的划分、判决门限的推导、以及星座图重新映射的DNF网络编码。针对不对称调制方式下(QPSK-16QAM、QPSK-8PSK)中继节点的DNF网络编码,推导了双向中继网络编码错误概率表达式。分析了两侧用户发送功率之间的匹配关系对中继网络编码性能的影响,并建立了优化问题模型,推导出中继两侧用户最优功率匹配比,使中继编码性能得到改善。再次,延续上行链路DNF网络编码的研究,进一步研究了下行链路不对称调制方式DNF网络编码,用户端分层网络解码。指出当两侧用户调制方式不对称时,中继DNF网络编码后广播给两侧用户的信号实质上是一种分层调制信号,分别给出了不同调制方式用户的网络解码方法,并推导了不同调制方式用户的网络解码差错概率。最后,研究了DNF网络编码双向中继在实际扩频通信场景下的应用。采用DNF网络编码的多址接入系统,相互通信的用户对可以共用同一多址资源块(时隙、子载波、扩频码等)。基于这一特点设计了同一通信用户对共用一个扩频码的通信模式,有效降低了多址接入的干扰。并对DNF网络编码扩频系统中的多址接入干扰进行深入分析,建立了相应的干扰模型。分别提出了针对中继网络编码、用户端网络解码的逆向干扰模拟消除算法,并将turbo迭代信号处理的思想引入干扰消除算法中,建立了迭代干扰消除模型,设计了基于网络编码的迭代干扰抑制算法。