为了满足未来无线移动通信物理层安全的需要,要求以多输入多输出（Multiple Input Multiple Output,MIMO）为代表的无线传输技术既能提高数据速率,又能保障信息安全。近年来涌现的方向调制与空间索引调制等新型MIMO技术能够在增强物理层安全性的同时,提高传输速率,此外,人工噪声也是实现MIMO物理层安全传输的经典方法。本论文针对上述MIMO物理层安全领域的新兴技术,提出了一系列基于新型MIMO无线通信的物理层安全算法,揭示了其理论误比特率和安全速率,并借助于计算机仿真验证了其性能优势。本文的结构介绍如下:第一章归纳了面向MIMO物理层安全的新兴技术,介绍了各技术的研究现状,同时明确了其正在面临的安全性问题,并且对本文的主要工作和架构加以说明。第二章介绍了基于扰动的空间方向调制方案,包括系统模型和发射机数字传输架构,并在方向角度估计误差存在的条件下,进一步通过理论推导,揭示了基于扰动的空间方向调制系统的平均误比特率和安全速率,并对推导结果进行了仿真验证。第三章提出了分布式子集选择辅助的新型方向调制方案,探讨了其系统模型、波束成形设计、信号发射以及收端检测过程,且进一步通过理论推导揭示了所提新算法的平均误比特率和安全速率,并进行仿真验证,证明了该分布式子集选择辅助的新型方向调制算法能够在保证信息安全性的同时,利用分布式子集索引组合提高传输速率。第四章提出了两种基于人工噪声的新型MIMO安全通信方法:一方面,通过理论分析和计算机仿真证明了人工噪声辅助的空间方向调制新方法可以提升MIMO系统的平均误比特率和安全速率;另一方面,人工噪声辅助的MIMO矢量扰动非线性预编码方法可在提升发射端功率效率的同时,改善系统的安全。第五章给出了全文总结,并在此基础上探讨了基于物理层安全的MIMO技术的未来研究方向及工作计划。