未来的移动通信系统将是一种多技术、多频段和多协议融合的统一网络平台。在满足系统带宽、能量效率和成本约束的情况下,未来移动通信网络需要根据不同的服务和应用需求提供多样化的传输服务。在本学位论文中,我们较为广泛地研究了未来蜂窝网络与全双工技术结合的有关问题,从频谱效率、用户服务质量、能量效率和安全传输等方面为全双工技术在未来无线通信中的应用提供方案和建议。本文的主要工作与贡献如下:1)提出了一种基于全双工与半双工混合协作的异构蜂窝网络资源优化利用方案。在该网络中,用户根据接收到的服务基站信号强度来选择双工通信的模式。利用非齐次泊松点过程,我们分析了用户的上下行信干噪比分布和频谱效率分布,讨论了双工模式切换的接收功率阈值优化问题并提出了一种高效的求解算法。仿真结果表明,我们提出的混合双工模式优于全双工模式和半双工模式。我们还分析了全双工技术在异构蜂窝网络中应用时的一些基本问题:全双工技术应用时除了需要考虑自干扰抑制外,还需要特别注意其应用时引入的小区间干扰,以及上下行可达速率的不对称性等特点。2)为异构蜂窝网络设计了一种新颖的基于协作干扰机选择和用户全双工能力的物理层安全方案。利用随机几何,我们分析了网络中用户的连接概率和安全通信概率。其中激活的干扰机的分布被建模为改进的泊松洞过程,从而得到较为准确用户性能分布。在此基础上,我们提出了一个非线性规划联合优化问题,在设定的安全概率和安全速率的约束下最大化用户连接概率。我们给出了一种高效的算法来求解该优化问题。实验结果表明,我们提出的算法能有效地平衡用户的连接概率和安全通信概率,提高了系统性能。3)研究了服务质量约束下的全双工云无线接入网络的能效问题。我们提出了一种最小化网络能量消耗的方法,联合优化了波束赋形因子、用户传输功率、前程链路压缩比和远端射频单元选择。我们首先提出了一种用户选择算法来最大化系统可同时服务的用户数量。然后我们提出了一种综合利用重复加权1范数法、基于块坐标下降法和连续凸逼近法的算法,可将非凸的网络能耗最小化问题转换为一系列的凸优化问题。此外,我们还全面地对比了全双工云无线接入网络和半双工云无线接入网络的基本特性。我们的研究表明,应针对不同的应用来选择云无线接入网络的工作模式,半双工模式适用于物联网等低速率要求的应用场景,而全双工模式适用于高清直播等高速率要求的应用。