随着现代无线通讯技术的发展,智能终端设备也得以迅速普及。这导致了智能终端设备保有量的暴增。再加上物联网（Internet of Things,IoTs）技术的不断成熟,使得智能终端设备所使用的数据流量开始呈现爆发式的增长,人们对于高速数据传输的迫切需求与通讯时延之间的矛盾愈演愈烈。为满足智能终端设备日益增长的无线通信需求,以蜂窝网络基础的端到端（Device-to-Device,D2D）通信技术被广泛研究。D2D链路可以通过正交或非正交的方式与蜂窝用户共同使用系统的频谱资源。前者是蜂窝用户将自身拥有的一部分频谱资源划分给D2D用户以完成D2D通信,这样可以完全消除蜂窝用户与D2D之间的干扰。后者是蜂窝用户将自身的频谱资源开放给D2D用户与其共同使用,通过这种方式可以显著提高系统的频谱效率。为了满足5G通信要求中对于大幅提升频谱效率和能量效率的急切需求,本文针对D2D通信与蜂窝通信共存的混合网络中的资源分配技术展开研究,取得的主要成果总结如下:（1）针对D2D通信与蜂窝通信共存的混合网络中通信资源管理问题展开了研究,提出了一种基于用户QoS保证的D2D用户功率控制与频谱分配算法。并对混合网络中的资源分配问题建模,保证用户通信质量的同时提升系统的吞吐量。设计的方案首先寻找系统内蜂窝用户与D2D用户之间的干扰系数,并依据干扰系数为D2D用户选取所复用的蜂窝通信链路。然后,推导出用户设备的发射功率范围并在发射功率范围内求解得到D2D用户的最优传输功率实现系统的最大吞吐量。（2）从系统中D2D用户的能量效率的角度出发,在保证用户服务质量前提下,我们最大化系统的能量效率。具体过程如下:D2D用户首先依据位置信息和信道条件选择建立直通链路或中继辅助链路,并为建立了中继辅助链路的D2D用户挑选出最佳中继节点。然后,通过对终端发射功率进行控制提高系统的能量效率。最后,通过最大加权二部图匹配使系统的能量效率最大化。我们所提出的资源分配方法在系统能量效率上获得了显著的性能提升。