4G以及即将到来的5G,让人们体会到了信息技术迅猛发展给人们带来的方便与快捷。在感受方便快捷的同时,通信系统的安全性也越来越受到人们的关注。为了提高无线通信系统的安全性,物理层安全技术随之产生。本文将阵列天线技术应用到物理层安全技术研究中,寻求能够解决无线通信系统在物理层安全传输问题的具体方案。在基于方向调制的安全传输方案中,通过遗传算法,获得方向调制的各天线最优权值,发送端对期望方向的合法用户进行安全传输,而其他方向的非法窃听者无法正确接收到有用信息。通过仿真对比,分析在不同窃听角度和发送者使用不同天线数的情况下,合法用户以及非法窃听者误码率的性能。对于合法用户、发送者和非法窃听者共线时如何进行安全传输的问题,提出了改进的方案。通过设计随机天线选择矩阵,使系统在发送者、非法窃听者、合法用户共线时也具有安全传输的特性,提升了方案的适用性。最后通过仿真证明了该方案的可行性与正确性。在随机天线选择的安全传输方案中,通过合法用户对发送者发送含有训练序列的发送请求,使发送者获得信道状态信息。发送者根据信道状态信息随机生成满足条件的阵列天线的权值,使发射信号在合法用户处正确接收,而非法窃听者由于对信道状态未知而无法正确接收。通过添加选择矩阵,改善了系统的功率利用率和接收者的误码率性能。对8天线条件进行仿真,对比了非法窃听者和合法用户的误码率曲线,以及使用选择矩阵以后对性能的改善。证明了该方案的正确性与可行性。同时,对于该方案中易出现的高峰均功率比问题,提出了一种基于部分传输序列的抑制算法。首先将原有天线阵列的权值分组,然后进行权值旋转变换,得到最优权值,从而提升了系统的稳定性。最后通过仿真,对比了8天线和16天线系统下的多种分组的性能。