随着5G时代的到来,对高速移动互联网数据业务的需求越来越高。在营4G系统中提高小区吞吐量的方法在现有小区架构下已经达到性能极限,需要大力发展新型无线传输技术和网络架构。面向蜂窝移动通信系统的D2D通信技术应运而生,其通过复用蜂窝通信链路的时频资源以增加小区容量、提高资源利用率、降低能量消耗并获得高传输速率,近年来引起极大关注。在传统蜂窝网络中,中继技术可以增加功率利用率获得空间分集增益以对抗多径衰落。本论文将中继技术与D2D技术相结合,研究其中断概率以及遍历可达速率等系统性能。首先,研究了基于AF中继D2D通信系统的中断概率以及可达速率。考虑每个用户均受到干扰与噪声,分析推导了中断概率以及可达速率的闭合表达式。针对D2D链路的中断概率,讨论三种特殊场景包括：高SNR场景,D2D链路远离基站场景以及D2D链路远离蜂窝链路场景并推导了近似闭合表达式。在D2D链路总功率恒定的条件下,提出了D2D用户和中继用户间的功率分配方案以降低中断概率,得到了功率分配方案的解析表达式。对于系统可达速率,联合考虑了蜂窝链路与D2D链路的可达速率,在用户发射功率受限的前提下,提出蜂窝链路与D2D链路联合优化方案以最大化系统的可达速率,大大降低了算法复杂度。其次,在同时考虑节点所受干扰与噪声的场景下,提出了基于双向AF中继D2D传输模式,分析了D2D链路干扰模型,分别推导了强蜂窝用户干扰与弱蜂窝用户干扰两种场景下系统中断概率精确解表达式,并在此结果上进一步求出高SNR场景下的近似解。仿真结果验证推导的正确性并表明基于双向AF中继D2D通信系统的中断概率在不引入额外功率的前提下可以大幅提高系统的中断性能。随后,在同时考虑干扰及噪声的基于双向DF中继的D2D通信系统中,研究了D2D链路的中断概率以及遍历可达速率。根据基于双向DF中继系统的中断概率以及遍历可达速率的定义,讨论推导了在对称与非对称两种情况(中继用户从两D2D用户接收到的功率是否相等)下中断概率以及遍历可达速率的精确解析表达式。在精确表达式的基础上,得出了高SNR场景下的近似表达式。针对中断概率以及遍历可达速率两种系统性能,分别提出功率优化方案以最优化系统性能。接着,针对处于同一小区以及不同小区的两用户的传输模式,提出了模式切换策略以最大化可达速率。考虑两用户间的三种传输模式包括：传统蜂窝传输模式、D2D传输模式以及基于双向DF中继的D2D传输模式,提出了三种传输模式间的切换策略。结果显示当两用户距离很近时采用D2D传输模式而当两者距离很远时则采用传统蜂窝传输模式,当用户间距离介于中间值时采用基于双向DF中继的D2D传输模式性能最优。最后,研究了配置多天线的基站采用BF和IC预编码策略时D2D通信系统的遍历可达速率。推导了有限反馈MIMO系统以及基站可以获取理想CSI两种场景下,采用BF和IC策略时D2D系统的遍历可达速率的精确表达式以及上下界的表达式。基于这些结论,讨论了三种特殊场景包括高SNR场景、弱干扰场景以及大规模天线场景,分别推导了三种特殊场景下上下界的近似解。研究结果显示高信噪比场景以及弱干扰场景下系统的遍历可达速率存在稳定值,有限反馈MIMO系统中随着天线数增加系统的遍历可达速率同样存在一个稳定值,而对于理想CSI的场景系统的遍历可达速率随着天线数呈对数增长。