为了满足通信系统向大容量、高速率、高可靠方向发展,引入了有较高频谱效率和数据传输速率的正交频分复用(OFDM)技术。在OFDM通信系统中,为了保证高速的传输速率和高质量的性能,接收端一般采用相干接收,即接收端必须估计出收发两端间信道状态信息才能完成信号的接收,信道估计的准确性是衡量OFDM通信系统性能的重要指标,但是信道的功率泄漏会对信道估计性能造成很大的影响。本论文基于这一背景,重点探究OFDM系统下信道存在功率泄漏的场景,研究抑制功率泄漏的信道估计方法以进一步提高系统性能,包括信道稀疏表征和信道压缩估计算法。其中,本文主要针对移动台高速运动和非整数倍采样多径两个功率泄漏场景进行深入研究。基站(BS)和移动台(MS)之间的高速运动将产生较大的多普勒(Doppler)频移,造成的信道功率泄漏将严重降低信道估计性能。此外,信道结构快速变化,使得基于信道结构的估计算法需要大量的导频。因此,在高速运动场景下的一个关键性挑战就是设计一种高效可靠的信道估计方法,以适应快时变信道。在本文中,提出了基于基扩展模型(BEM)的压缩感知(CS)信道估计方法来估计快时变信道下的的信道状态信息(CSI)。首先,为了降低信道功率泄漏,采用离散椭球基(DPSS)作为信道建模的基础,形成DFT-DPSS基扩展对信道进行时延-多普勒域二维稀疏表征。然后,充分利用信道的稀疏特性,设计了具有最佳阈值的正交匹配追踪(OMPT)算法,使其可以灵活地运用在信道结构变化的信道中。最后,仿真结果验证了所提出的方法在快时变信道的下对估计性能的提升。由于信道在时延域具有稀疏性,为了充分利用信道的稀疏结构,以离散傅里叶变换(DFT)估计算法和基于CS的估计算法为代表的的变换域(TD)信道估计(CE)方法可以大大提高信道估计的性能。但是,由于多径时延随机分布,多径位置以大概率不落在采样点上,引起信道冲激响应(CIR)发生功率泄漏,在这种非整数倍采样多径(NsSM)信道下将严重降低TD方法的估计性能。为此,需要针对NsSM情况下的信道估计方法进行特殊设计。在本文中,针对NsSM信道下的主要工作包括:第一,提出了基于一阶泰勒展开近似模型的连续基追踪(CBP-T)信道估计算法来估计NsSM下的信道冲激响应。在这一解决方案中,为了抑制信道的功率泄漏,首先利用一阶泰勒(Taylor)展开近似进行信道稀疏建模,然后,设计了连续基追踪算法(CBP)重构信道。第二,基于均匀导频图样下导频子载波集间的旋转不变特型,提出了利用ESPRIT算法进行信道估计。最后的仿真结果表明两种信达估计方法均有效地解决了 NsSM下信道功率泄漏的问题,且CBP-T方法大大增强了在低到中信噪比(SNR)区域中的估计性能。