随着无线智能设备数量的高速增长和新的互联网应用的不断涌现,频谱资源匮乏成为了新一代无线通信系统所面临的挑战。引入全双工技术和D2D（Device-to-Device,设备到设备）技术可以有效提升蜂窝通信系统的频谱效率,与此同时系统内干扰情况变得更加复杂。因此,研究高效的干扰控制算法能够降低系统干扰并提高频谱效率,进而提升系统性能。论文围绕全双工蜂窝D2D通信系统中的干扰场景,深入开展干扰控制算法研究,主要工作包括以下两个方面:第一,针对全双工蜂窝与全双工D2D用户间的“一对一”资源共享场景下的干扰问题,提出了一种基于功率分配的干扰控制算法。在保证蜂窝用户最低传输速率要求下,构建了以最大化D2D链路和速率为目标优化问题。由于该目标优化函数为非凸问题,一种解决方案是通过约束条件变换,将目标函数转化为凸函数之差的结构,并采用一阶泰勒展开将作差部分线性化,将非凸的目标函数转化为凸函数,并采用迭代算法来进行功率求解;另一种解决方案则是利用D2D通信在高信噪比传输的一种近似算法,根据不同的功率可行域进行相应目标函数的功率求解。结果表明,在保证D2D链路传输的高信噪比条件时,两类方案均能提高D2D链路的和速率。第二,针对蜂窝D2D通信系统,提出了面向全双工直传、半双工直传、中继协助全双工、中继协助半双工这四种D2D工作模式的联合功率分配与模式选择的干扰控制策略。在保证蜂窝和D2D链路的最低速率要求下,以D2D链路和速率最大化为目标,构建了不同模式下的功率优化问题,采用迭代以及一维搜索算法进行模式选择和相应模式下的D2D用户的发送功率和速率进行求解。结果表明,在不同的信道状态下,通过模式选择可以获得更高的D2D和速率。综上,本文研究了全双工蜂窝D2D通信系统的干扰控制算法,能有效提升D2D链路传输速率,为全双工技术在蜂窝D2D系统中的应用方案提供了技术支撑。