随着智能通信终端的普及以及无线通信网络技术的进步和发展，新型的无线多媒体业务与应用不断涌现，用户对无线数据访问需求的与日俱增，移动宽带流量正经历着前所未有的爆炸式增长。一些近距离通信服务日渐成为人们日常信息获取的主要需求，如点对点数据共享、定位感知的广告推送、本地流行内容多播等。为了满足这些业务不断增长的低能耗、高速率和低延迟要求，提升用户的服务体验，终端直通（Device-to-Device，D2D）通信技术应运而生，被认为是实现下一代无线通信网络的关键技术之一。　　将D2D通信技术引入到传统蜂窝通信系统，组成蜂窝与D2D并存的混合网络，可以利用D2D短距离通信的小成本、低功耗和高速率的数据传输服务，从而实现网络及终端资源的高效利用和数据分发性能的提升，为本地的海量数据共享提供了便利和可能。但是另一方面，D2D混合网络具备蜂窝和D2D两层网络结构，用户终端分布更加广泛和密集，网络干扰环境更加复杂。为了更有效的发挥D2D潜在优势，本论文立足于D2D混合网络的背景环境，结合已有的研究工作对混合网络进行优化，研究进一步提升频谱效率和能量效率的无线资源分配和数据分发策略，以最大程度减少用户间干扰，充分发掘D2D通信的网络增益，合理利用网络的分布式空分资源，缓解当前无线多媒体业务中基站负载过大、频谱资源紧张、能量资源匮乏的问题。本论文的主要工作包括以下几个部分：　　（1）在复用型D2D单播混合网络中，研究了多个D2D单播通信对如何通过复用多个蜂窝通信的频谱资源以最大化混合网络总频谱效率的问题。在建立系统优化模型时综合考虑了网络有效增益保障、蜂窝用户最小速率需求和D2D最大发送功率限制等约束条件，并在此基础上设计了一个基于子频带匹配和D2D功率分配联合优化的资源分配方案。　　方案包括两个部分：　　1）将每个D2D单播对与每个蜂窝用户视作潜在复用匹配，以双方用户和频谱效率最大化为目标，为每对潜在复用匹配找到D2D在子频带上的潜在最优发送功率，并在此基础上提出一种启发式的子频带匹配算法，为混合网络中多个D2D链路分配子频带资源。　　2）根据凸优化理论的拉格朗日对偶方法，得到最优功率候选值的闭合区间解，并提出基于二分法的最优功率分配算法，为D2D通信对在多个蜂窝子频带上的发送功率作最优化调整。仿真结果表明，相较于对比算法，所提算法能更加充分的利用蜂窝频谱资源，显著提高混合网络总频谱效率。　　（2）在复用型D2D多播混合网络中，研究了D2D多播功耗和容量折中优化的资源分配策略。文中综合考虑蜂窝用户和D2D用户的QoS需求以及二者最大发送功率限制，采用线性加权和的方式定义了D2D功耗和容量的多目标折中优化问题。在引入多目标效用函数并经过转化后，将原优化问题分解为两个等价子问题。在第一个子问题中，分析单个D2D多播组复用多个蜂窝子信道时的多目标效用函数最小化问题，证明了其凸性优化问题的特性，并采用二分法获得D2D多播组在每个子信道上的最优SINR（Signal-to-Interference-plus-Noise Ratio）分配。第二个子问题中，考虑多个D2D多播组与多个蜂窝子信道的复用情况，同样以多目标效用函数最小化作为目标，考虑用户公平性，采用基于贪婪策略的算法为多个D2D多播组分配蜂窝子信道。最后给出了基于多目标优化的D2D多播资源分配算法的具体流程。仿真结果证明了所提出的多目标优化方案在解决D2D功耗和D2D用户接入数折中优化方面的灵活性及有效性。　　（3）针对传统无线多播服务与D2D多播通信的融合，建立正交型D2D多播混合网络场景模型，研究了以D2D多播吞吐量最大化为目标的高效中继分配策略。为了充分发掘D2D中继信道容量的多样性，文中分析了D2D多播总吞吐量与D2D中继数目以及D2D链路速率的函数关系，并在此基础上给出了中继分配最优化的数学表达式问题。根据D2D中继选择和信道划分呈现出的组合分配特点，引入博弈论中的组合拍卖模型对中继分配过程进行建模和数学问题阐述。最后，通过建立竞拍者组合与所要竞拍物品之间的估值与收益模型，将组合拍卖问题描述成一种NP-hard（Non-deterministic Polynomial hard）组合分配问题，并提出了基于迭代组合拍卖的算法来模拟拍卖过程获取中继分配策略。仿真结果证明了所提算法在提高系统总吞吐量和平均吞吐量性能方面的优越性，并且在业务量大、用户数量较多的实际网络环境中更具优势。　　（4）针对特定区域内多用户对相同多媒体内容需求的数据分发应用，综合考虑了节点位置分布、终端能耗、链路干扰等各种因素，研究了基于能量高效的D2D协作数据分发策略。文中首先定义了用户终端在蜂窝链路和D2D链路中进行数据传输的能量消耗模型，并在此基础上以网络设备节点总能耗最小化为目标，提出了D2D协作数据分发的优化框架，并运用联盟博弈理论为该问题构建了一个不可转移效用的联盟构型博弈模型。其中的关键特征函数根据不同模式下的能量有效性进行设计，同时考虑了无线链路的潜在干扰对节点效用值的影响。随后基于特征函数，提出了一种能量感知的分布式联盟构型算法，该算法依据功利性偏好，迭代的进行联盟的合并和拆分操作，使设备节点能够不依赖基站等网络基础设施自组织形成稳定的网络结构。此外，证明了该算法的收敛性以及所形成联盟结构的稳定性。仿真结果表明，该数据分发策略相比传统的蜂窝多播方法和非协作单播方法有显著的性能提升。