随着智能化科技时代的到来,移动通信在我们生活中已经成为不可或缺的部分。自从4G移动通信系统开始,多输入多输出（Multiple Input Multiple Output,MIMO）和正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）成为无线通信的关键技术,也是将来智能化通信的技术基础。针对通信系统的架构设计,传统的方案是基于层次化与模块化来构建整个通信系统,即把整个系统分为多层级联的模块,其中每个模块负责特定功能,通常需要专家知识库对其进行建模和设计。但是,在未来智能化通信中,系统规模将变得十分庞大与复杂,传统的模块化方案由于复杂度高与灵活度低,可能难以达到较好的效果。与此同时,GPU等高效率计算硬件的发展以及数据量的爆炸式增长,为深度学习等技术在通信系统中的应用打好了基础。通过深度学习训练,可从海量通信数据中学习到不同无线环境下数据发送与接收之间的隐藏规律,从而实现数据的解调与恢复。本课题主要基于深度学习采用数据驱动的方法,对MIMO-OFDM系统中的端到端接收机设计展开研究。本文首先针对单输入单输出OFDM系统,引入现阶段在文本图像领域取得了显著成效的三个深度学习模型结构MLP、Res Net和Transformer,通过模型适配将其应用到OFDM系统接收端,对整个端到端接收机直接训练深度学习模型,可从射频输入数据直接恢复成信息比特。同时,在不同的系统参数配置下（如有无循环前缀、有无峰值裁剪、导频数量等）,对本文所提的深度学习方案、以及传统方法进行了大量仿真对比。最终,仿真结果表明,在不同场景下,本文引入的深度学习模型结构在OFDM端到端的接收机设计上与传统的LS、MMSE算法相比,其误码率性能提升了1%～14%。本文进一步对更为复杂的MIMO-OFDM系统的端到端接收机进行深度学习训练。基于单输入单输出OFDM系统下的模型优化结果,分别对上述三种深度学习网络模型结构提出优化思路。首先对MLP结构引入多尺寸建模思想来获得更多空间维度上的信息;针对结构较为复杂的Res Net模型,采用隐式信道估计的思路来加快收敛速度并且提高模型性能;最后对Transformer模型引入卷积思路,提出Conv Transformer模型来进一步区分噪声信号与真实信号。同时,本文对所优化后的深度学习方案、现有的其他深度学习方案以及传统方法进行了大量仿真对比。仿真结果表明,本文所提出的改进后的深度学习模型结构可有效地提升检测性能以及加快运行速度,相比原始未经过改进的模型,其误码率性能提升了34%～50%。与工业界常用的MMSE-SIC算法相比,本文提出的方案在不同场景下的误码率性能提升了1%～15%,计算速度加快了一倍。