随着经济和信息社会化的发展,第四代移动通信技术提供的传输速率已经不能满足人们的需求。现在世界各地已经展开对5G关键技术的深入研究。大规模多输入所输出(Multiple input multiple output,MIMO)技术可以大大提高系统的频谱效率,减少不同用户之间的干扰。毫米波技术通过提升频谱带宽可以实现高传输速率。因此,毫米波大规模MIMO技术已成为5G移动通信的关键技术之一。由于在大规模MIMO系统中,数字预编码方法会导致高成本、高功耗和高计算复杂度,全数字预编码方法在大规模MIMO系统中是不实际的。因此,在毫米波大规模MIMO系统中引入了混合预编码算法。然而,现有的混合预编码算法无法实现比传统的数字预编码算法更好的频谱效率性能。因此,本文针对多用户毫米波大规模MIMO系统的高频效混合预编码算法进行了深入的研究。本文的研究内容如下:为了进一步提高多用户毫米波大规模MIMO系统的频谱效率,本文首先提出了改进的混合块对角化预编码算法。它的核心思想重新构造基带等效信道矩阵以增大基带等效信道矩阵的维度,从而可以提高基带等效信道矩阵的增益,最终可以提高整个系统的频效性能。其次,提出了改进的基于交替优化的矩阵分解混合预编码算法,它的核心思想是由于模拟矩阵的非凸约束,利用交替优化的方法将非凸问题的求解转化为一系列凸优化问题。通过仿真表明,与传统的算法相比,改进的混合块对角化预编码算法和基于交替优化的矩阵分解混合预编码算法可以实现较好的频谱效率性能和更好的误码率性能,因此本文提出的算法更适合于毫米波大规模MIMO系统。