随着人们对无线高速数据通信需求的与日俱增,当前的移动通信系统面临着频谱资源短缺、吞吐量小、传输时延高等性能瓶颈。毫米波频段提供了丰富的频谱资源,并且,毫米波技术与大规模MIMO技术结合形成的毫米波大规模MIMO系统一方面解决了频谱资源短缺的问题,另一方面可以在基站侧配置大规模天线阵列,提供充足的天线阵列增益、提升系统吞吐量。因此,毫米波大规模MIMO技术成为了5G的关键技术之一。本论文选题来源于企业科研合作项目——《新一代网络关键技术与业务分析技术研究》,重点对毫米波大规模MIMO系统中子连接型结构下的混合预编码问题进行了研究,分别提出了开关网络结构下与移相器结构下的混合预编码算法。具体的研究工作如下:1)综述了毫米波大规模MIMO系统与信号预编码的相关研究。首先阐述了毫米波技术并对毫米波大规模MIMO技术的基本概念以及研究方向进行了介绍,然后着重梳理了全数字预编码与混合预编码的基本原理、研究现状以及相应的优缺点。2)针对开关网络结构,提出了能量高效的混合预编码算法。以能量效率最大化为目标对混合预编码进行设计,提出了两步优化方法。该算法将原始的多变量非凸优化问题进行解耦并分别利用交叉熵优化与一种迭代优化算法求解。仿真结果表明本文提出的两步优化方法在保证用户QoS的情况下,始终能实现较高的系统能效。3)针对移相器结构,提出了能量高效的混合预编码算法。以能量效率最大化为目标进行混合预编码设计,提出了基于信道相位提取的优化方法。该算法首先将模拟域的设计问题转化为等效信道增益最大化问题并用相位提取方法进行求解。在对模拟域进行设计之后,采用块对角化预编码算法将数字预编码器/接收机的问题转化为分式规划问题求解。仿真结果表明,本文提出的预编码算法可以在频谱效率与能量效率之间实现较好的折中。