无线频谱资源作为移动通信技术中最基础的资源,在移动通信中发挥着重要作用。随着无线通信技术的发展,无线频谱资源越来越复杂混乱,难以管理,使得无线频谱资源的利用率始终处于较低水平。因此,更高效率的时频资源分配算法和技术亟需得到应用。在当前铁路无线通信领域,基于全球移动通信系统平台的铁路专用数字移动通信系统（GSM for Railway,GSM-R）正在向新一代高铁移动通信系统（Long Term Evolution for Railway,LTE-R）演进,在保证列车高速运行安全通信的前提下,能为用户提供更高带宽,更低时延的服务。如何保证高速运行的列车在可靠通信的前提下,充分利用铁路通信系统中有限的无线频谱资源,提高无线频谱的利用率,是目前铁路通信系统的主要研究方向。另外“频谱态势”这一概念的提出,使得铁路通信无线频谱资源的高效利用有了新的研究思路。本文以高速铁路智能频谱态势为主要研究内容,通过分析高速铁路通信场景下列车用户在接受通信服务时的网络小区选择、小区切换和信道选择这三个关键流程中存在的问题,分别研究了频谱态势空间维度的小区机会性接入态势,小区切换态势和时间维度的信道占用态势。结合图卷积网络,强化学习理论和时序深度网络等人工智能方法,对不同维度的频谱态势进行研究和建模,提出了全新的无线频谱资源优化算法,并进行了通信仿真,验证研究的频谱态势具有应用的可行性,提高铁路通信环境下的无线频谱资源利用率。本文主要创新包括以下三点:首先,针对铁路通信用户在异构网络中的小区选择和接入问题,研究了智能频谱态势中的空间特征,建立了基于图卷积网络（Graph Convolutional Network,GCN）的铁路通信系统机会性接入态势,利用GCN网络挖掘不同小区之间的空间关联性,并结合传统的异构网络多属性决策算法,提出了基于GCN的铁路通信小区选择算法,进一步提高了小区选择的合理性。其次,针对铁路通信用户在小区切换时的参数选择问题,研究了智能频谱态势中的小区切换态势,提出了一种基于强化学习和参数估计的切换态势感知算法,该算法通过智能体与环境相互作用,在动态变化的铁路环境条件下获得铁路用户在不同切换参数组合下的切换性能和网络性能,选择出具有最优通信性能的切换参数,提高列车用户的切换成功率和服务质量。最后,针对铁路通信用户在小区通信中的信道选择问题,研究了智能频谱态势中基于时间特征的信道占用态势,利用时序深度网络对授权信道的占用态势进行感知,根据授权信道过去的时序数据预测其未来的变化情况,提高信道占用态势感知的准确度,为用户动态接入授权信道提供参考,提高无线信道的资源利用率。