随着低频段频谱资源的日益短缺,毫米波通信可以工作于未利用的高频段且能提供足够的工作带宽而得到了广泛的研究。毫米波信号容易受到大气吸收与降雨的影响,使得收发两端存在严重的路径损耗,而大规模多输入多输出(MIMO)技术能提供足够的阵列增益,因此毫米波通信与大规模MIMO技术的结合可以有效弥补路径损耗,并大幅度提升系统容量,但同时也给信道估计与预编码方案的实现提出了更严峻的挑战。一方面,传统的信道估计方案所需的时频资源是与天线数量成正比的,这样在大规模MIMO系统中会占用大量的频谱资源且可能导致严重的导频污染;另一方面,传统的数字预编码方案对于每一个天线元素都需要配备一个专用的射频(RF)链,这对于大规模MIMO系统来说硬件代价过大。针对上述问题,本文深入研究了毫米波大规模MIMO系统的信道估计与预编码算法,并提出了新的解决方案,具体内容如下:第一,经典的毫米波信道估计方案是基于分级码本实现的。其在估计多条路径时需要多次启动分级训练过程,且在估计当前路径时需要排除前而已估计径的影响,在多径情况下算法时间复杂度太大。本文首先考虑2D信道,在经典的毫米波信道估计算法基础上,提出了一种新的多径信道估计算法,该算法无需多次启动分级训练过程,可以同时得出多条路径的估计结果,成倍地降低了估计的时间复杂度;且在时变信道条件下,该算法的性能要优于经典的毫米波信道估计算法。此外,本文将新算法与经典算法扩展到3D信道中并进行性能比较,可以得出相同的结论。第二,混合预编码由数字预编码与模拟预编码两部分构成,它能以较小的RF链数量来接近全数字预编码的性能。目前模拟预编码部分的研究大部分是基于无限精度或者高精度移相器的,这使得系统硬件代价过大。基于此,本文提出了一种基于矩阵分解的低复杂度混合预编码算法。在数据流数与RF链数相差不大的情况下,该算法以低精度移相器的条件获得了相比经典的正交匹配追踪(OMP)算法在无限精度移相器下更优的预编码性能;同时比较了主流的低复杂度混合预编码算法,在同样的低精度移相器条件下,该算法同样获得了一定的性能优势。此外,考虑将本文提出的毫米波信道估计加速方案与低精度混合预编码算法结合起来,组合成一套更快速、硬件复杂度更低的毫米波信道估计与混合预编码整体方案,新方案在时变信道条件下相比传统方案有一定的性能优势,更能应用于实际通信系统。