近年来,无线数据流量的显著增长推动了对无线电高端频率频谱的探索,作为其中的核心技术,毫米波通信备受关注。由于毫米波波长较短,路径损耗和穿透损耗较高,大规模天线阵列的波束成形技术对毫米波通信链路的构建和维护起着关键作用。毫米波有较宽的信道带宽,独特的信道特性和硬件限制,因此直接在毫米波通信上使用波束成形技术具有诸多挑战。现有的毫米波通信波速训练协议具有较高的复杂度和较低的准确性,急需低复杂度、高精度的波速训练方案;而且当部署更大的天线阵列来服务多用户时,波束训练造成巨大的开销,同时为更好服务多用户通信,会出现一个波束上区分不同用户的问题。面对上述问题,本文针对面向毫米波无线通信的波束成形关键技术开展相关研究,主要工作和创新总结如下:1.针对单用户毫米波波束训练,为了减少训练开销,本文提出了一种基于压缩感知的位置辅助快速毫米波波束训练方法。为了降低用户端定位误差的影响,该方法利用定位误差的统计信息来划分出用户端所在的关键区域,然后基站发射波束覆盖该区域,接着用户使用压缩感知方法找到最佳波束来直接设计波束成形。仿真结果表明,该方法不仅具有极低的波束训练复杂度,而且性能接近上界。2.针对毫米波多用户MIMO系统,为了减少波束训练开销,且解决由定位误差导致波束失准的问题,本文提出了基于鲁棒的位置辅助毫米波波束训练的混合波束成形方法。混合波束成形设计分成两个阶段,第一阶段使用鲁棒的位置辅助波束训练来直接设计模拟波束成形。第二阶段通过选择有效信道增益反馈来设计基站的数字预编码模块。通过仿真结果验证了所提算法能大幅降低训练开销,同时性能接近最优方法。3.针对毫米波-非正交多址(Non-Orthogonal Multiple-Access,NOMA)通信系统,为了解决波束的主瓣无法覆盖同一簇所有用户的问题,本文设计了适用毫米波-NOMA系统的模拟波束成形分层码本(Hierarchical Codebook based on mmWave-NOMA,HCM),自适应拓宽模拟波束宽度,以能覆盖同一个NOMA簇的所有用户。该方法假设基站不知道每个用户的完美信道状态信息。首先,基站使用HCM码本中的最高层码字的波束进行扫描,用户接收到波束后反馈波束索引。接下来基站收到波束索引后使用K-means聚类算法对用户进行分簇。随后,对于每个NOMA簇,根据其每个簇的波束索引从HCM码本中选择能覆盖所有用户的模拟波束成形矢量来完成模拟预编码器的设计。数字预编码器的设计则通过使用选择最强的等效信道增益来消除簇间干扰的方法。最后,考虑服务质量限制,提出使和速率最大化的最佳功率分配方法。相比同类算法,仿真结果表明所提的算法具有更好的性能。