为解决5G大数据时代日益突出的数据安全传输问题,人们开始对毫米波多输入多输出（Multiple-Input Multiple-Output,MIMO）系统的隐蔽无线通信技术进行研究。频谱资源丰富但路径损耗严重的毫米波在大规模天线阵列技术的加持下,可形成高指向高增益的波束,因而毫米波MIMO系统在隐蔽无线通信中具有先天的优势。隐蔽通信技术也称为低检测概率通信技术,相较于传统的加密技术和物理层安全技术,隐蔽通信技术关注重点在于隐藏通信过程本身,有更高的安全性。本文针对毫米波MIMO系统完整的隐蔽通信过程开展研究工作,具体如下。本文首先研究了基于波束扫描的隐蔽毫米波通信的发射功率优化问题,通过采用分阶段优化的方式,分别对毫米波通信的波束对准阶段和数据传输阶段的发射功率进行优化。在多输入单输出（Multiple-Input Single-Output,MISO）场景下,对系统优化问题进行分析推导,在满足系统隐蔽性要求的条件下,优化波束对准阶段发射功率和数据传输阶段发射功率,以最大化系统有效可达速率。进一步考虑MIMO场景下,基于波束扫描的隐蔽毫米波通信的发射功率优化问题。与MISO场景相比,MIMO场景下波束扫描阶段发送的训练符号数更多。仿真结果表明,MIMO场景下波束对准阶段发射功率相比MISO场景明显降低,进而导致波束对准概率降低。但是,在满足系统隐蔽性要求的情况下,MIMO场景下的系统有效可达速率明显优于MISO场景,且随着信道条件的改善而提高,说明了MIMO技术可有效提高隐蔽通信系统性能。隐蔽毫米波无线通信技术作为一项较新的安全通信技术,关于不同波束训练方案下的隐蔽毫米波通信系统性能的研究还相对稀缺。考虑到使用分层码本可以减少波束对准阶段需要的训练符号数,有利于系统隐蔽性要求的满足和有效数据的传输,本文对基于分层码本的隐蔽毫米波通信的发射功率优化问题进行了研究。同样采用分阶段优化方案,先对MISO场景下的隐蔽毫米波通信两个阶段的发射功率优化问题进行分析建模。进一步考虑MIMO场景的发射功率优化问题,在满足系统的隐蔽性要求的前提下,最大化系统有效可达速率。仿真结果表明,基于分层码本的隐蔽毫米波通信系统性能优于基于波束扫描的隐蔽毫米波通信系统,但两者之间的差距随着可传输符号数的增大而变小。仿真结果说明了分层码本技术可显著提高有限块长的隐蔽通信系统性能。