随着5G移动通信的发展,用户追求更好的上网体验,对网络业务的多样化需求逐渐增长,在万物互联互通的时代趋势下,制式繁多的异构网络中终端用户数呈指数上升。人们对高速度、低时延数据传输的急切需求和频谱资源稀缺之间的矛盾日益显著,单一固定的频谱分配方式不仅是对频谱资源的不合理利用、造成资源浪费,而且极大的降低了用户的通信服务质量。Device-to-Device（D2D）通信技术指D2D终端用户通信无需基站转发,即可进行直接通信,D2D通信具有低时延、低功耗以及高频谱利用率等优势,能够极大程度缓解频谱资源稀缺的情况。为保证用户的通信,亟需更简单灵活的频谱资源分配方法,此外,由于D2D通信受限于终端之间的通信距离以及传输链路的信道质量,因此,将中继技术引入D2D通信,可以更好的发挥D2D通信的优势。本文主要完成如下工作:（1）对包括D2D通信在内的异构网络中频谱资源分配问题进行建模。使用信干噪比和设置路径损耗参数来约束系统干扰,采用不同的群智能算法优化D2D频谱资源分配方案,从而保证用户的通信服务质量、提高频谱利用率。（2）将改进的二进制海鸥优化算法应用于D2D资源分配问题中。首先,引入非线性权重和Levy飞行,平衡算法全局和局部寻优的能力;其次,引入离散函数对位置矢量进行离散化;最后,采用改进的二进制海鸥优化算法以用户公平性以及系统能量效率为目标进行对比实验。实验结果表明,本文所提算法在D2D资源分配中能有效提高系统能效。（3）提出一种反向差分二进制被囊群算法,并应用到中继辅助D2D通信资源分配中。首先,在种群初始化中引入反向学习策略增加多样性,另外,引入差分进化提高寻优精度,最后引入离散函数对位置矢量进行离散化。实验结果表明,本文所提算法在中继辅助D2D频谱资源分配中大大提高了频谱利用率。