毫米波(Millimeter Wave,mm Wave)多天线技术是满足海量数据高速率通信需求的关键技术之一。与现有微波频段不同,毫米波的频谱资源十分丰富,但毫米波信号绕射能力差、在空气中衰减大。因此,对抗严重的路径损耗是毫米波通信亟待解决的问题。现有的多天线技术可以为毫米波无线通信系统带来性能增益,并且毫米波天线尺寸小、易集成,因此在毫米波传输中结合多天线技术能够取得良好的效果。然而,实际应用中,高频段、宽频带的毫米波信号处理所需器件价格昂贵,多天线系统使用的多个射频链路也会带来极高的功耗和硬件成本。所以,毫米波多天线技术的大规模应用面临着成本和功耗的双重考验。作为一种新兴的多天线(Multiple Input Multiple Output,MIMO)技术,空间调制在任一时隙只激活一根发射天线,可以使用较少的射频链路实现MIMO传输,具有低功耗、低成本、低复杂度的优点,因此毫米波空间调制传输具有广阔的应用前景。在经典的空间调制传输方案中,二维的调制信号、一维的空间星座是独立、分开映射的,即信息比特分组后,分别映射到相应的发射天线、调制符号上,被激活的发射天线传送对应的调制符号。独立映射准则尽管原理简洁、操作可行,但却存在实用性和性能上的不足:一方面空间调制系统要求发射天线数量只能是2n(n为正整数);另一方面,无线信道随机变化的特性使得不同发射天线承载符号传输的能力也不一样,而独立映射机制并没有为发射天线灵活地配置不同的调制符号集合。所以基于独立映射的空间调制系统在硬件条件上是受限的、性能是次优的。为了提升毫米波空间调制传输的可靠性,本论文根据空间调制研究中已有的联合映射机制,分别针对基于天线切换的毫米波空间调制系统、基于波束选择的毫米波空间调制系统进行二维调制信号、一维空间星座的联合映射三维信号设计。本论文的主要贡献和创新点总结如下:1)基于天线切换的毫米波空间调制三维信号设计——本论文针对室内视距毫米波传输场景,研究了基于天线切换的毫米波空间调制三维信号设计。首先建模了基于最大比合并(Maximum Ratio Combining,MRC)检测的空间调制MIMO系统模型,分析了 MRC检测性能。为了提升毫米波空间调制系统的可靠性,本论文以最小化误符号率(Symbol Error Rate,SER)为目标,在给定频效约束条件下,建模了联合映射三维信号优化设计问题。为求解这一优化问题,本论文提出了遍历搜寻算法、前向逐步选择算法。经过对比分析后发现,所提出的前向逐步选择算法能够以极小的复杂度实现近似最优性能。在此基础上,本论文进行了仿真验证,经过分析发现,三维信号设计不仅可以使系统配置更加灵活,而且相比于随机选择方案、经典空间调制方案以及自适应预编码方案,可以获得更加优越的SER性能。2)基于波束选择的毫米波空间调制三维信号设计——由于天线切换的速率有限,所以基于天线切换的空间调制系统是硬件受限的,并且某一时隙内仅使用部分天线,不利于获得较高的波束赋形增益。与之相反,波束选择使用模拟移相网络中不同的波束向量来携带空间域信息,不再需要高速的天线切换,并且任一时隙都使用全部的发射天线,有利于获取较高的波束赋形增益。本论文考虑窄带聚簇结构的毫米波信道模型,以提升传输可靠性为目标,研究基于波束选择的毫米波空间调制三维信号优化设计。为了进一步提升可靠性,本论文从最大化最小欧氏距离的角度出发,将调制符号集合推广到复数域,通过求解非凸的二次规划二次约束优化问题得到满足功率约束的调制符号,并利用逐步选择方法满足维度约束。仿真结果表明,所提出的基于复数域调制的三维信号设计方案显著提升了SER性能。