对于地面移动通信系统无法覆盖的区域，低轨卫星移动通信系统(Low Earrth Orbit Mobile Satellite System，LEO-MSS)承担了为移动终端提供通信服务的主要任务。然而LEO-MSS存在两个固有缺陷严重限制了它的通信服务能力，一是相对于地面移动通信系统，LEO卫星的单波束覆盖面积太大，其单波束覆盖半径能够到达百公里量级，约束了整个系统的总接入容量，二是LEO卫星对地快速移动，导致所有用户每分钟至少一次的频繁被动切换，大大增加了系统资源管理的难度，难以保障用户的服务质量（Quality of Service，QoS）。
　　本文针对上述问题，以提高系统的平均接入容量，减小切换率为目标，引入基于LEO-MSS的多层扩展网络场景;同时针对LEO卫星接入场景的传播时延较大、LEO卫星的高速运动和多波束结构等特点，提出扩展网络场景的系统资源优化方法和切换优化方法，解决接入容量不足和被动切换频繁带来的问题。具体工作包括四个方面:
　　(1)针对传统的LEO-MSS单层网络架构无法从根本上解决接入容量不足、被动切换频繁以及星间动态路由复杂等问题，本文考虑了一种基于LEO-MSS的多层扩展网络场景，引入同步卫星(Geostationary Earth Orbit，GEO)、空中基站（High Altitude Platform，HAP）和地面中继(Terrestrial Relay，TR)节点，将原有的LEO卫星作为主要的接入节点，实现全球无缝接入，HAP和TR作为热点区域的接入节点，以提升系统容量并减少切换率，GEO卫星作为中继节点，替代复杂的LEO星间多跳动态路由。在该场景下，得出了LEO卫星和HAP在共享频谱资源时的平均接入容量和切换率的积分表达式，分析了相比于传统LEO-MSS的性能提升程度和影响因素，并进行了仿真验证。
　　(2)为实现上述多层扩展网络的吞吐量优化，本文针对多层多波束的网络结构和频谱规划方案，设计了分层分步的资源管理方案对系统进行高效的无线资源管理;针对星地链路传播时延较大，信道反馈不够实时的问题，利用了LEO卫星移动的规律性和可预测性，结合用户的速率和时延等QoS需求，提出了基于信道预测的动态下行资源优化方法，通过构建分步优化问题，解决了复杂的多波束跨层联合资源分配问题，给出了数学求解方法和低复杂度的实现算法，仿真结果验证了所提下行资源优化方法能够在可接受的实现复杂度内显著提升系统下行吞吐量。
　　(3)针对上下行场景的差异，本文充分利用LEO卫星多波束频谱多色复用方案、上行信道干扰模型、以及移动终端的功率约束条件的特点，提出了一种适用于提升上行链路吞吐量的新的资源分配方法，联合上行功率域非正交多址接入技术和多波束协同接收进行资源优化，并推导出了三用户场景下的最优的功率分配的闭式表达，通过建立和求解优化问题，将三用户场景推广到了多波束多用户场景，仿真结果证明所提方法在上行吞吐量和接入用户数方面有着显著的提升。
　　(4)基于LEO-MSS的多层扩展网络场景缺少高效的切换协议流程和被动切换优化策略，本文针对长时延特性，采用定位和授时技术替代随机接入过程实现上行同步，设计出了适用于扩展的LEO-MSS接入场景下的简化的切换协议流程，能够大大减小频繁被动切换带来的切换时延和信令开销。针对被动切换的可预测性，提出了基于预测的切换优化方法，优化切换时机、中断概率和系统吞吐量，仿真结果表明LEO集中式管理下的基于预测的切换方法在系统中断概率和吞吐量方面有更好的性能。