在当前时代,随着无线网络惊人的发展速度与无线设备的普及,无线网络已经成为人们信息共享的重要手段,无线信道上的信息传输量呈现出爆炸式的增长。但是由于无线信道的广播特性,无线网络中传输的数据极易受到非法用户的窃听,造成信息泄露。传统的基于密码学的方案采用密钥加密的方式传输信息,但其具有密钥管理复杂、无法应用于低计算能力节点的网络等缺点。而物理层安全(Physical Layer Security,PLS)利用无线信道的物理特性来实现安全通信,操作简单,无需复杂的加密解密算法,是一种解决无线网络安全问题的有前景的技术,并成为无线网络通信安全领域的研究热点。另外,协作通信使用协作中继辅助传输,不仅扩展了网络的覆盖范围,还能有效改善接收者处的信号质量,提高系统的传输可靠性。协作通信与PLS的结合,可以将协作节点的分集增量带到PLS中,使得合法链路的信道质量优于窃听链路的信道质量,从而保证信息的安全可靠传输。然而,协作中继在某些情况下并不值得信任,这就意味着中继可以充当偷听者从源节点中窃听消息。所以针对无线网络中的安全通信问题,结合协作通信和PLS的相关技术,本文分别对可信中继和不可信中继协作通信场景中的PLS机制进行研究,具体的研究内容如下:(1)针对可信中继协作通信场景,研究了窃听链路不同信道状态信息(Channel State Information,CSI)已知情况下,中继和干扰器选择方案的安全性能。对于窃听链路统计CSI已知的情况,讨论了两种基于最大化保密容量的中继和干扰器选择方案的安全性能,分别是仅中继选择方案与中继和干扰器联合选择方案。并给出偷听者合作与非合作条件下的选择结果以及安全中断概率的渐近表达式。对于窃听链路CSI未知的情况,提出具有合作干扰的中继选择方案,其中多个干扰器被选择以协作阻止偷听者的窃听行为,最佳转发中继通过最大化目的地处的容量获得。仿真结果表明,适当的干扰有助于提高系统的安全性能。当偷听者数量增多时,相较于仅选择一个干扰器的方案,多个合作干扰的中继选择方案具有更好的保密性。(2)针对不可信中继协作通信场景,为了同时防止不可信中继和偷听者窃听机密消息,引入全双工技术,提出波束成形和协作干扰方案,其中源节点采用迫零波束成形策略发送消息,目的地在接收信号的同时发送干扰信号。另外,推导出该方案的平均可达保密率和安全中断概率的闭式表达式以评估所提出方案的性能。仿真结果表明,所提出的方案可以实现较高的安全性能,并优于半双工方案。本文研究了不同中继角色下的PLS方案,以提高无线网络的安全性能,并为下一代网络的信息安全传输提供一些见解。