随着人们对无线通信的容量需求快速增长,在微波频带中运行的通信系统很难满足用户高速率传输的要求。因此,在过去的几年中,许多先进的技术被用来提高频谱效率,如中继合作、分集复用和认知无线电。但是,与爆炸性的系统容量需求相比,获得的增益太有限了。为了解决频率资源短缺的问题,毫米波被认为是潜在的射频候选者。由于每秒千兆比特的数据速率,毫米波将部署在未来的第五代无线通信系统中。另外,由于天线数量的增加,大规模多输入多输出技术可以有效地提高系统的频谱效率和信道容量,该技术成为了第五代移动通信的关键技术。因此,毫米波大规模多输入多输出技术便成为了重点研究方向。此外,混合预编码技术有效地降低了纯数字预编码技术系统的硬件成本,与毫米波大规模多输入多输出系统更加契合。因而本文主要研究了毫米波大规模MIMO系统的混合预编码技术。针对现有算法复杂度较高和系统的频谱效率较低的问题,研究了对应的混合预编码方案。本文的主要工作如下:（1）在部分连接结构单用户毫米波大规模多输入多输出系统下,本文提出了基于相位对齐的混合预编码方案,该方案首先通过提取信道矩阵共轭转置的相位的方法设计模拟预编码,以获得较高的天线增益,其次数字预编码矩阵采用奇异值分解的方法获得。仿真结果表明该算法在损失少量系统频谱效率的情况下,与基于最大等效信道增益的混合预编码算法相比,有效地降低了混合预编码算法的计算复杂度。（2）在部分连接结构单用户毫米波大规模多输入多输出系统下,本文提出了基于逐列优化的混合预编码方案,该方案通过逐列优化算法找到模拟预编码的近优解,数字预编码矩阵采用奇异值分解的方法获得。仿真结果表明,与基于最大等效信道增益的混合预编码算法相比,本文所提的基于逐列优化算法的复杂度略有增加,但系统的频谱效率有效提高。（3）在部分连接结构多用户毫米波大规模多输入多输出系统下,本文提出了基于两阶段实现混合预编码方案,该方案采用逐列优化算法找到模拟预编码的近优解,数字预编码的设计分为了两部分,一部分采用迫零算法来消除用户之间的干扰,另外一部分用于逼近全数字预编码。仿真结果表明,与现有的混合预编码方案相比,本文所提的基于两阶段实现混合预编码复杂度略有增加,但系统的频谱效率有效提高。