第五代移动通信系统(The 5th Generation Mobile Networks,简称5G)要求比第四代(The 4th Generation Mobile Networks,简称 4G)具有更高的性能,支持5G系统高速率传输的一种有效手段是利用毫米波波段中大块尚未开发的频谱。另一方面,联合多用户混合波束成形技术的大规模 MIMO(Multiple-Input Multiple-Output,MIMO)技术可以极大程度地提高系统频谱利用率,因此也成为5G通信系统的必然选择。在使用混合波束成形结构的过载无线通信系统中,基站可以在同一时频资源中服务多个用户来获得多用户复用增益。然而在实际的多用户配置大规模天线阵的MIMO系统中,基站由于用户间存在干扰和其配备的射频链路数目小于候选用户数的原因,往往不能在同一时频资源上为所有候选用户提供服务。因此完善的用户调度方案对于获得良好的通信系统性能将起到关键性的作用。与传统用户调度时只需选择最优的用户子集不同,在毫米波混合波束成形系统中,用户调度问题需要在两个维度上解决,即联合选择基站在同一时频资源上服务的用户子集以及各被选择用户与基站间通信时使用的通信波束对,因此具有更加复杂的处理流程。目前相关研究工作较为有限,并存在算法复杂度高、需要基于已知信道状态信息(Channel Status Information,CSI)等不足。针对上述问题,本文的研究目标是针对毫米波混合波束成形系统中的用户调度问题,寻求低复杂度、并可在未知CSI条件下工作的实用解决方案。首先,针对已知CSI场景下现有算法复杂度过高的问题,本文提出了一种启发式、基于用户分类的用户调度方法。本方法同时从减小被服务用户间干扰和增强各被服务用户接收信号能量两个角度出发,完成用户选择和波束选择。仿真实验结果表明,该方法在较低的算法复杂度下,能够达到最优频谱效率的92.8%。接着,考虑到大规模天线系统中获取各用户与基站间完整CSI的难度很大,本文进一步提出了一种基于波束训练的用户调度方法。该方法基于波束训练完成用户和通信波束对选择,可以工作于基站与小区中各用户均未知CSI的通信场景下,能够获得最优系统性能的93.6%,具有较高的实用价值和启发式意义。