毫米波(Millimeter Wave,mmWave)具有丰富的频谱资源,被认为是第五代移动通信的关键技术之一。通过引入多输入多输出(Multiple-Input Multiple-Output,MIMO)技术,使毫米波波束赋形能够获得更高的增益,用以克服mmWave信道的高路径传播损耗。然而,全数字波束赋形技术中的射频(Radio Frequency,RF)链路数量会随着发射端天线数目的增大而增多,这导致系统功耗进一步增大。为了降低系统功耗并保证系统性能,将数字域与模拟域波束赋形技术结合的混合波束赋形技术应运而生。然而,将无限或高分辨率调相器(Phase Shifters,PS)用于实现模拟域波束赋形是现有混合波束赋形算法的主要缺点之一。因为在实际条件下,为了进一步降低硬件成本和功耗,通常采用的是低分辨率调相器。因此,本文提出了一种迭代混合收发器设计算法,其中的调相器只能提供离散低分辨率的相位调整,进而可在最大化频谱效率的同时,通过有限分辨率调相器降低模拟波束赋形的成本。仿真结果表明,所提出的低分辨率调相器算法的性能接近于具有无限分辨率调相器算法的性能。另一方面,由于与单用户MIMO系统相比,多用户MIMO系统不仅更符合实际应用条件而且还能够实现更高的系统容量。因此,本文进一步研究了在子连接结构下多用户MIMO系统的混合波束赋形,其中子连接结构的每个天线仅能够连接到唯一的一个射频链路上。基于完整的信道状态信息(Channel State Information,CSI),通过使用奇异值分解(Singular Value Decomposition,SVD)获得每个用户接收端的模拟组合器,模数预编码器通过交互优化算法最小化最优全数字预编码器与混合预编码器乘积差值的F-范数来获得。仿真结果表明,提出的方法性能优于现有的基于SVD的方法,特别是在低信噪比(Signal to Noise Ratio,SNR)的条件下。