近年来移动通讯技术发展迅速，人们需要的是一种类似蜂窝通信的本地共享数据服务，这种需求推动了D2D技术的产生与发展。D2D通信技术可以增加系统的频谱利用率，提高基站边缘用户的服务质量。由于无线信道存在信道衰落，D2D用户在距离较远时无法直接进行通信，需引入中继技术，本文主要研究引入中继的D2D通信系统中的中继选择策略。论文对D2D通信系统中的单中继选择算法进行了研究，针对传统中继选择算法无法协调节点距离和信道状态信息的问题提出了一种单中继选择策略。这种选择策略可根据用户的反馈信息在两种中继选择方案（距离选择法以及信道系数选择法）之间切换，在保证系统性能的基础上能降低系统的复杂度。采用该算法也可提高信道的利用率，从仿真结果看出该算法的信道利用率相比传统中继算法有较大提升。论文分析了D2D通信系统工作在AF和DF模式下的误码率、中断概率，经仿真对比了它们的性能差异。论文对D2D通信系统中的多中继选择策略进行了研究，从系统的复杂度，服务质量，以及网络寿命三个方面提出了三种中继算法。这三种中继算法解决了中继对基站的干扰问题，并可以根据基站的干扰阈值动态自适应地确定中继个数。论文对它们的性能进行了比较分析，提出了各自的适用场景。从仿真结果看出，同时考虑信道质量和剩余能量的中继算法有较好的服务质量，网络寿命比其他算法有较大提高，对于一般的D2D通信系统有更好的适用性。论文对D2D通信系统的性能优化进行了研究，分析了单中继系统中源节点和中继节点之间的功率分配问题，通过对两者发射功率的控制可有效降低系统的误码率。在多中继通信系统中，对所复用蜂窝用户的频带资源进行了选择优化，复用对目的接收节点干扰最弱的频带资源可有效提高目的端的接收信噪比。为了降低中继选择过程中的碰撞概率，本文研究了分布式中继定时器的设定问题，仿真表明当定时器采用优化后的定时初始值时可有效降低中继选择的碰撞概率。