随着5G无线网络基站建设落实,激增的网络访问量、庞大的网络规模和多元化的用户服务,成为掣肘无线通信系统效能提升的障碍。为提升正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）通信系统的数据处理效率,增强信道自适应性,解决传统通信系统对复杂信道估计困难、串行结构易误差累积等问题,保障接收精度,主要研究工作如下:（1）针对OFDM通信信号接收问题,提出一种OFDM盲接收机模型。融合密集连接卷积网络与残差网络,构建双通道混合深度神经网络框架（Dual-path Mixed Deep Learning,DMDL）。该框架延缓了网络训练中的梯度爆炸,抑制特征消失;为了提取同相正交（In-phase/Quadrature,I/Q）数据信号序列特征,考虑导频标识对信号的影响,利用卷积网络的多维卷积核提取并分析不同特征,丰富特征维度,实现信号的自适应盲接收。为验证DMDL模型的效用,在高斯白噪声信道和瑞利信道环境下将DMDL与最小二乘算法进行对比分析。实验表明,DMDL接收精度优于最小二乘算法,具有强抗干扰和识别输入信号的泛化迁移能力,实现信息的高效精准恢复,保障网络的鲁棒性。（2）针对5G系统中信道估计精度问题,提出一种基于分组卷积和深度可分离卷积（Grouped Convolution and Depthwise Separable Convolution Network,GDSNet）的信道估计模型。引入最小二乘算法作为算子对信道进行初始预估计,构建5G OFDM信道估计深度神经网络GDSNet,将分组卷积与深度可分离卷积进行融合,高效训练网络,快速恢复时频资源块阵列,对信道精确估计。为验证GDSNet模型的效用,在TDL信道环境下,对比分析GDSNet、残差网络、Channel Net与线性插值算法的估计精度。仿真实验表明,GDSNet网络对比残差网络结构,训练参数降低95.58%,训练时间降低49.69%;与Channel Net网络结构相比,训练参数降低94.63%,训练时间降低50.17%。GDSNet模型具有信道估计精度高、计算开销小和便于移动设备终端部署的特点。