随着无线数据业务量的急速增长以及数据形式的多元化趋势,人们对通信传输速率和通信质量不断地提出了更高的要求。但是,频谱资源的稀缺特性已越来越成为制约无线通信发展的关键因素。为了解决现有频谱资源短缺的问题,毫米波通信和大规模多输入多输出(Massive MIMO,Massive Multiple Input Multiple Output)系统被提出,并被推荐进入 5G 移动标准中。一方面,毫米波通信的可用带宽范围更广,从而能够带来更高的数据传输速率。另一方面,由于毫米波通信下天线物理尺寸很小,使得大型天线阵列可以集成到收发器中,以有效弥补毫米波通信带来的路径损耗。因此,毫米波通信与大规模MIMO技术被看做是第五代移动通信系统的核心解决方案之一。本文主要围绕毫米波多输入多输出(MIMO,Multiple Input Multiple Output)系统下的混合预编码设计以及能量效率问题开展技术研究。论文主要针对毫米波MIMO点对点通信系统,提出了一种基于截断SVD分解的低复杂度混合预编码算法;以及在该系统下,针对能量效率问题,提出了一种在功率消耗和频谱效率中取得平衡的模拟预编码器混合连接结构。本文主要工作如下:首先,本文介绍了毫米波MIMO系统的研究背景以及毫米波通信特点,并简要介绍了毫米波MIMO系统的研究现状,分析现有毫米波通信中存在的问题并提供解决方法。其次,本文详细介绍了 MIMO系统以及毫米波系统,并对传统的预编码方法做了简单的介绍,其中包括脏纸编码及迫零预编码等。之后介绍了传统通信频段中常用的数字预编码技术及模拟预编码技术。由于二者在毫米波MIMO系统模型下的应用受限,至此引出更适用于该系统的混合预编码方法并加以介绍。再次,论文研究了在毫米波MIMO点对点通信系统下的混合预编码设计问题。由于现有的混合预编码方法复杂度较高,因此实有必要找到一种混合预编码方法,以降低实际应用的复杂度。本文以极大化频谱效率为优化目标进行混合预编码的设计。由于该优化目标具有非凸性,因此进一步将该优化目标转化为模拟预编码器生成的子空间与全数字预编码器生成的子空间距离最小。在此基础上,本文提出了一种基于截断SVD分解的低复杂度混合预编码算法,并从原理上分析和证明了该算法的有效性,且通过计算表明该方法在一定情况下,其复杂度仅有正交匹配追踪算法的1%。通过仿真表明,该方法的频谱效率在任何情况下都与全数字最优预编码器的频谱效率相近,且优于正交匹配追踪算法。最后,本文研究了在毫米波MIMO点对点通信系统下的模拟预编码器结构设计问题。基于此,本文提出了一种规则的模拟预编码器混合连接结构。基于该结构,可以将全连接结构和部分连接结构看作是其特例,因此可以把对混合连接结构的分析推广到全连接结构和部分连接结构中去。此外,该结构还具有可便于实现分布式天线阵列系统的优点。仿真结果表明,该混合结构的频谱效率介于全连接结构和部分连接结构之间,但由于减少了移相网络的规模,与全连接相比,极大的提升了系统能量效率。