近年来,随着移动通信发展成为B5G和6G标准的新时代,近地轨道（Low Earth Orbit,LEO）卫星和空间互联网也成为研究热点。卫星数量的不断增加以及各种新服务的发展,将导致更多的频谱资源需求。然而,频谱作为不可再生资源,其短缺将严重限制卫星通信系统的未来发展。随着许多LEO卫星星座计划在Ku/Ka波段的实现,研究和分析地球同步轨道（Geostationary Earth Orbit,GEO）卫星与LEO卫星系统共存技术具有重要意义。本文在认知LEO卫星共享GEO卫星频谱资源的场景下,提出一种动态频谱共享方案,以在不影响现有GEO卫星服务运行的情况下,增加认知LEO卫星网络的频谱可用性。本文主要研究内容包括:（1）针对卫星通信链路的长距离传输以及空间环境复杂,导致频谱感知性能不佳的问题,本文提出基于无线电环境制图（Radio Environment Mapping,REM）的频谱感知方案。首先,采用软硬融合策略相结合的双门限能量检测算法,在认知LEO卫星系统的复杂度和感知精度之间取得了良好的平衡。同时,引入了空间检测概率和空间虚警概率,以表明REM对空间描述的可靠性。仿真结果表明,所提出的混合频谱感知方案在高噪声不确定度下,其检验性能仍近似仅采用软融合的性能,而且REM有利于对GEO卫星的频谱占用情况进行可靠的空间描述。（2）针对认知卫星系统的频谱感知过程在时间上具有不可忽视的滞后性这一问题,本文采用了基于级联神经网络（Cascaded Neural Network,CNN）的频谱预测方案改善频谱感知过程。考虑到空间噪声具有不确定性,引入了自适应门限量化方式对频谱感知获得的数据进行预处理;然后,采用基于CNN的预测算法,该算法综合GEO卫星的历史频谱占用信息和当前频谱感知结果来预测频谱空洞,不仅可以提高频谱感知的准确性,而且提高了频谱感知的效率。仿真结果表明,相比于基于前馈神经网络（Feedforward Neural Network,FNN）的预测算法,CNN的预测算法能够有效缓解GEO卫星与LEO卫星系统间的频谱冲突概率。（3）针对多颗、多信道的认知LEO卫星联合频谱感知和功率分配问题,本文提出多目标模因算法（Muti-Objective Memetic Algorithms,MOMA）优化认知卫星系统的频谱感知时间、判决门限值和功率分配量,以最大化认知LEO卫星系统的吞吐量以及最小化对GEO卫星的干扰。仿真结果表明,所提方案在认知卫星系统的协同频谱感知和功率分配方面获得了良好的性能和动态参数。