未来无线通信系统应能满足高速移动场景下的宽带无线通信需求。针对此种时频双选衰落信道,单载波通信系统需要复杂的自适应均衡算法来抵抗衰落信道中的符号间干扰,在此背景下,凭借频谱资源利用效率高、抗多径能力好等方面的优势,正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术的关注度显著提升。它通过插入循环前缀可以有效抑制多径效应造成的频率选择性衰落,却对多普勒效应造成的时间选择性衰落十分敏感,少许的多普勒频移便会破坏OFDM系统子载波间的正交性,产生严重的子载波间干扰（Inter-carrier Interference,ICI）。传统的信道估计技术应用到双选衰落信道下的OFDM系统中时,需要占用大量的导频资源,而且性能较差,尤其系统的时变性较强时,性能恶化严重。针对以上问题,本文首先研究了基于压缩感知的信道响应估计方法,分析了由多普勒扩展引起的子载波间干扰的统计特性以及其在子载波间的分布规律,指出某个子载波受到的ICI主要来自于邻近的少数几个子载波。为了抑制ICI,在有效导频两侧插入保护导频;使用基扩展模型对双选衰落信道进行建模,减少了待估参数;利用分布式压缩感知理论对联合稀疏的基系数向量进行恢复并使用离散长椭球序列对其进行平滑处理,通过仿真验证了算法的优越性。其次研究了基于深度学习的信道响应估计方法。首先,针对学习网络进行离线训练,并使用鲸鱼优化算法搜索网络的最佳学习率,然后将训练过的网络用于在线的信道估计。通过离线训练与在线估计,修正了由于线性插值未考虑信道时变性带来的估计误差,进而使得系统误码性能以及信道估计精度获得显著改善。最后在FPGA上进行了上述信道估计算法的部分顶层设计与实现,进一步验证了算法的有效性。