随着移动互联网、物联网等技术的迅猛发展,移动终端设备爆发式地涌入到网络中,第五代移动通信技术（The 5th Generation Mobile Communication Technology,5G）中的大规模接入技术引领了“万物互联”新时代。与此同时,移动终端新应用也蓬勃发展起来,像人脸识别、自然语言处理、虚拟现实、电子医疗、智慧城市等已与我们的生活融为一体。大规模多类别的移动应用对网络服务性能提出了更高的要求,不仅需要网络提供高速的数据速率,而且需要其提供丰富的计算及缓存资源。为了满足多类型移动业务应用,移动边缘计算（Mobile Edge Computing,MEC）技术通过将多维资源部署在终端设备周围,使其对业务进行分布式处理,提高网络资源的利用效率,以满足多类业务的服务质量需求。如何实现稳定、高效、安全的多维资源管理对网络时延、能效及网络开销带来直接影响,是5G及第六代移动通信技术（The 6th Generation Mobile Communication Technology,6G）关键研究问题。与此同时,随着终端设备也变得更为智能,通信、计算和缓存能力得到极大的提升,终端直通（Device-to-Device,D2D）技术有效支撑了终端协同网络的服务能力。基于云-边-端网络架构,本论文所研究的终端协同网络既包括终端之间、MEC服务器之间的横向协同,也包括终端、MEC服务器和云服务器之间的纵向协同,充分挖掘网络终端设备的多维资源来辅助网络进行数据传输、处理及存储,促进当前密集异构网络向去中心化方向演进。本论文分别从终端协同链路的传输增强技术、终端协同网络的在线即时计算卸载、终端协同的长期稳定计算卸载和终端协同的通信计算缓存融合机制四个方面展开研究,对系统吞吐量、服务时延、网络能效与系统稳定性进行优化。主要工作和创新点如下。第一,针对终端协同网络中的终端协同链路的传输性能提升问题,考虑D2D链路上引入非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术和非授权接入技术以进一步提升终端协同网络的吞吐量。同时,考虑到一个设备可能与多个设备同时建立连接,通过NOMA技术,使在同一个传输设备的多条D2D链路同时传输。针对子信道分配问题,首先提出了一种基于交换匹配的授权信道分配方案,基于信道分配,又提出了一种集中式的功率控制方案和一种分布式的功率控制方案,在保障蜂窝网络数据速率的情况下最大化D2D链路的吞吐量。此外,考虑到D2D链路上的功率较小,为了对WiFi网络能带来较小的干扰影响,提出了一种基于斯坦伯格博弈模型的非授权信道接入技术,在保障WiFi网络吞吐量性能的同时,进一步增强了 D2D链路上的吞吐量,以提升网络的服务性能。通过调整授权信道和非授权信道上的发射功率,实现D2D链路信道容量的最大化。相比于现有的D2D链路上的非授权信道接入方案或基于NOMA技术的D2D链路资源优化方案,所提方案能够提升资源利用效率,有效提升了网络吞吐量。第二,针对终端协同网络中多用户即时在线计算卸载问题,提出终端协同的分布式计算卸载方案,即计算任务在多用户之间分布式执行。将计算任务的平均时延作为系统性能评估指标,本研究通过对计算任务调度、信道资源和频谱资源进行优化,建立多任务平均时延最小化问题。通过应用凸优化理论,将原始问题转化为一个凸问题,并提出基于交替方向乘子法（Alternating Direction Method of Multipliers Algorithm,ADMM）的任务调度和多维资源联合分配方案。通过仿真分析,相比云-MEC联合卸载方案,所提方案能够有效地降低网络计算任务时延。另一方面,对于终端协同辅助的多用户计算卸载场景,考虑到数据传输的安全性问题,引入物理层安全技术,提出了一种计算卸载决策、功率控制与计算资源分配的联合优化方案以最小化计算卸载时延和能量消耗的加权和并保障传输链路的安全容量。所提出的基于异步优势行动者评论家（Asynchronous Advantage Actor-Critic,A3C）算法的双层优化设计方案,能够做出快速决策并且取得近似最优解,在降低网络能耗和服务时延的同时,并有效保障了计算卸载的安全性。第三,针对无线供能辅助的终端协同网络中的长期稳定计算卸载问题,考虑终端之间的能量协同,终端设备可以辅助其他设备转发计算数据或执行计算任务。将计算能量效率引入进来作为网络性能的评估指标,该计算能量效率被定义为单位能量消耗所完成的计算数据量。本研究通过优化计算卸载策略、传输功率及MEC服务器的计算资源来取得最优的能量效率。所建立的问题是一个长期的优化问题,受限于缓存数据队列的长度,通过引入李雅普诺夫理论,将一个长期的优化问题转化为每个时刻的确定性问题,再采用凸优化方法求解确定性问题,最终取得问题的长期近似最优解。仿真结果表明,所提方案既能有效地提升网络计算能量效率,又能降低稳定数据队列长度。第四,针对终端协同网络架构中的通信、计算缓存联合优化问题,考虑云、MEC及终端协同来实现联合计算卸载、主动缓存、无线接入控制及相应通信、计算和缓存（Communication,Computing,and Caching,3C）资源管理。主要考虑两类服务业务:一类是计算卸载业务;另一类是内容传输业务。建立一个两类业务平均加权时延最小化的计算卸载决策和内容传输决策及频谱资源和计算资源分配问题和一个缓存效用最大化的缓存空间分配问题,然后将所建立的问题重新建模为马尔科夫决策过程（Markov Decision Process,MDP）。针对时延最小化问题,并提出一种基于多智能体深度确定性策略梯度（Multi-Agent Deep Deterministic Policy Gradient,MADDPG）算法的任务调度决策和频谱及计算资源分配方案,针对缓存效用最大化问题,提出一种基于MADDPG的缓存空间优化方案。仿真结果表明,所提方案在有效降低计算卸载和内容传输的平均加权时延和提升缓存效用方面具有优势。本论文对终端协同网络中的链路增强、计算卸载、3C融合等方面进行了深入研究,所提方案有效改善了用户服务体验、网络能效、稳定性等性能,将对5G演进及未来6G网络提供有力支撑。后续终端协同网络在支撑数字孪生、泛在智能、网络安全等方面仍需要继续探索。