随着通信技术和互联网应用的不断发展,各类应用和软件对无线通信数据网路的要求也在不断的提升,就目前而言,各类虚拟现实技术,大型网络互动技术的实现在受到硬件限制同时,也受到无线网络传输速率的影响。因此,如何建立一个高速率高质量的通信网络系统是当下研究的热点。第五代移动通信技术预计于2020年进入商业运行阶段,其中主要的技术如毫米波频段,大规模天线系统等不仅带来了技术的革新,也带来了新的挑战。大规模天线系统与传统系统不同的一点是其使用的天线数目急剧增加。天线的增多一方面带来了系统性能上提升,另一方面也使得信道信息矩阵的维度呈指数增加,在有限的时间内进行信道估计变得更加困难。第五代通信系统的通信频段主要集中在毫米波频段,而毫米波信道具有在角度域上的稀疏特性,运用该稀疏特性,人们提出了在毫米波频段下的基于压缩感知的信道估计方法,基于压缩感知的信道估计方法突破了奈奎斯特采样速率的限制,能够在远低于该采样速率进行采样的情况下,以大概率的可能性恢复出原本的数据。这为频分系统的信道估计提供了理论基础和解决方案。本文就基于压缩感知的信道估计方案中的一些问题进行阐述并加以解决。论文主要完成了以下的研究成果。在第三章,本文整理了压缩感知在信道估计方面应用的理论基础,如在信道估计方面的自适应信道估计方案,在混合波束赋形码字设计方面的匹配追踪等。在这些理论的基础上,本文进而提出第四章在未知信道径数条件下的信道估计方案,和第五章的基于码本更新的信道估计方案。这两种方案分别解决了以下问题:首先,由于在一般信道估计算法中,需要系统提供信道中的稀疏度数值,即基站端到接收端的可达路径数目。由于毫米波的高频特性,可达径可看作是由直射径和单跳反射两个部分组成的。而这些可达路径受到天气,小区内的移动障碍物等因素的严重影响,在实际系统中是一个很难获取的信息。因此本文将针对这种情况,提出一种基于能量的信道估计方案,在未知信道径数的情况下对信道进行估计,发掘信道中所有值得利用的空间自由度。由于信道中稀疏度未知,那么估计方案的时间开销必然大于稀疏度已知时的时间开销,因此,在该方案的基础上,提出了一种利用逐径方法中各径间冗余信息以快速降低估计开销的一种方案。其次,在多径信道估计中,各个径之间往往相互影响,在估计新的径时,需要减除已估计径对接收能量的贡献。已有的逐径估计算法一般在接收端对接收能量进行投影,以减除已估计径对接收能量的贡献。这种方案有几点不足,其一是接收端需要了解基站端的天线排布信息,以便生成投影矩阵,而在应用中,各个基站的天线排布可能各不相同,这部分信息获取将十分困难,需要提出一种在基站端减除该部分贡献的方案;其二是由于波束组成的字典集是过完备的,因此在进行投影时,只能保证投影后的残差与最新估计的径正交,而且还会在其他已估计径方向上引入新的能量。基于上述问题,本文提出了一种基于码本更新的信道估计方案,其主要思想是在基站端每次估计后,利用已估计径的信息对码本进行改造,使能量不再从已估计径的方向进行传输,在量化地确定控制系统所需的射频链路数目的同时达到减除已估计径影响的目的。