作为未来5G(第5代)移动通信系统的重要组成部分之一:D2D(Device to Device)通信系统,是提高无线频谱利用率,增加移动网络通信容量的一种有效手段。但现有的相关研究主要集中在复用上行链路资源的传输模式中,而复用下行链路资源的传输模式由于存在基站功率高和干扰大的情形,相应的通信体制研究显得十分缺乏。本篇论文的主要工作就是针对复用下行链路资源的D2D通信系统,将能够有效对抗干扰的网络编码设计应用于传输模式中,通过中继与传输时隙划分来研究基站、D2D用户和蜂窝用户的通信传输性能,建立了多种功率、传输距离和编码调制方式之间的仿真分析模型,为丰富D2D通信系统的无线频率复用体制提供有了意义的参考。主要研究内容包括:D2D通信系统的两种复用模式、网络编码的干扰抑制应用、复数域网络编码的两种设计(参数化空时码和黄金空时码)、复数域网络编码在复用下行链路资源的D2D通信系统中的应用与性能分析建模。仿真分析的结果表明:复数域网络编码设计的引入能有效的消除基站功率大而引起的干扰,使得用户可以有效复用下行链路的频率资源;通过中继的网络编码设计,也让通信传输获得了两阶分级增益,降低了系统传输错误率。