认知无线电技术作为解决频谱资源短缺的有效手段之一,现已成为无线通信的研究热点。由于传输信道本身所具有的广播特性,无线通信所面临的安全威胁在认知网络中更加严峻。利用无线信道的衰落和叠加等特性,通过信道编码和信号处理等技术,从物理层实现信息安全传输的物理层安全已被认为是一种能够实现绝对安全通信的有效通信手段。多天线技术用来对抗无线信道衰落,能够很好地增大接收端信噪比,提升无线系统的容量。协作通信技术通过空间中不同位置的多个中继相互协同,形成虚拟的多输入多输出(Multiple-Input Multiple-Output,MIMO)系统,也能得到有效的分集增益。为此,本文分别对多天线认知无线电网络和多中继协作认知无线电网络的物理层安全性能进行建模与分析。首先,本文研究分析Generalized-K衰落信道下单输入多输出(Single-Input Multiple-Output,SIMO)认知无线电系统的物理层安全性能问题。Generalized-K信道能够准确地描述包含多径效应和阴影衰落的复合信道,然而Generalized-K分布的概率密度函数和累积分布函数包含了复杂的表达式,难以用于各种性能的分析推导。本文使用Mixture Gamma分布近似表示Generalized-K分布,分析了SIMO认知无线电系统的安全性能,推导出系统的安全中断概率(Secrecy Outage Probability,SOP)的闭式表达式,建立了系统参数与SOP的关系式,并通过蒙特卡洛仿真验证了理论分析的正确性。其次,本文研究分析独立不同分布Nakagami-m衰落信道下多中继协作认知无线电网络的物理层安全性能问题。分别研究了最优中继选择和传统中继选择两种方案下系统的安全性能,并以多中继转发方案作为比较基准,推导出三种方案下系统的准确和渐近SOP,蒙特卡洛仿真验证了理论分析的正确性。数值计算结果表明:最优中继选择方案对系统安全性能提升最为有效,传统中继选择方案在低信道参数等场景下安全性能优于多中继选择方案。渐近分析结果表明安全分集阶数只与中继个数和主信道参数有关,其他参数只对安全分集增益有影响。本文通过对多天线认知无线电网络和多中继协作认知无线电网络的物理层安全性能建模与分析,得出各项参数与系统安全性能关系式,为认知无线电网络的设计与布网提供必要的参考价值。