近年来,随着高铁逐渐成为地域沟通和人才流动的主要交通方式,高速铁路场景成为LTE、5G等无线通信系统的重要研究场景之一。由于高速移动无线信道具有快时变、非平稳等特性,给无线传输技术如信道估计与预测、信号检测与解调、信道均衡、信道译码等带来巨大的挑战,导致接收机性能恶化;另一方面,相比公网场景,不同通信模块之间在高速铁路场景下的联合性能表现是次优的,并且需要支持不同的通信制式,大大增加了接收机的适应压力。为了缓解高速铁路场景给无线传输技术带来的种种负面影响,亟需针对在高速铁路场景对物理层的关键技术展开研究优化。本文以实现高速铁路场景下的高速率高可靠通信为目标,分析了高速铁路场景下的无线信道特性并总结多普勒频移与非平稳时变响应的特殊性,借助神经网络的特征提取与非线性映射能力,研究基于深度学习的无线传输技术。首先,论文研究了高速铁路场景下多普勒频移的动态特性,结合无线通信系统中参考信号的配置方式,提出了一种新的基于长短时记忆（Long Short-Term Memory,LSTM）网络的多普勒频移预测算法。利用基于理论值的初始训练集和基于估计值的动态训练集,实现在行驶周期上的跟踪训练,在不改变帧结构的前提下,该算法取得了比传统估计算法更好的预测性能,并能减小参考信号处估计误差对预测的影响。随后,论文针对高速铁路场景下信道冲激响应的快时变非平稳特性,提出了基于模型驱动的自适应接收机,利用小规模卷积神经网络（Convolutional Neural Network,CNN）搭建的Channel Net完成对信道的跟踪,提供准确的信道状态信息,利用CNN+LSTM联合结构搭建的Signal Net完成对接收信号的检测与恢复,输出估计的发送数据。两类网络驱动下的接收机利用参考信号上的历史估计值进行实时训练,自适应高速铁路场景下的信道变化。该方案在不改变帧结构的情况下,达到与传统算法在额外参考信号辅助下的接收性能,实现高速铁路场景下的高可靠性和高传输效率通信。最后,论文对不同信道编码方案的传统译码算法展开仿真,讨论了两种类型训练集对译码性能的影响,提出基于神经网络的通用译码方案。利用CNN挖掘编码序列中的特征,设计通用译码网络结构与译码方案,针对不同编码方案保存对应的神经网络权值,在不同编码方案上实现与传统算法接近的译码性能。