随着接入网的发展和全面部署,无源光网络的环境变得更加复杂,很多接入网基础设备会暴露在公共场所中。这为无源光网络传输数据带来了潜在安全威胁,如数据窃听等。为了保证无源光网络中数据的安全传输,现有的数据加密方式为数据链路层及以上各层的电加密。但是上层加密无法解决物理层安全问题,并且受限于电子器件的处理速度,电加密无法满足对实时处理要求较高的通信系统需求。而在光层通过光信号处理的方法进行光物理层加密。不仅解决了电子器件的处理速度瓶颈,还为物理层透明传输的数据提供安全保护。因此,本文提出采用光层加密的方法来解决无源光网络中的密钥和数据安全传输问题。具体包括如下主要内容:在第三章中,针对无源光网络中的密钥安全传输问题,提出了基于超结构光纤布拉格光栅的密钥隐藏系统。超结构光纤布拉格光栅可以使密钥信号达到时域隐藏和信号编码的效果,为密钥信息提供双层防护。仿真结果表明,在基于超结构光纤布拉格光栅的单用户密钥隐藏系统中,密钥信号可隐藏在系统噪声之下,进而保障密钥的安全传输,且单用户密钥无误码传输的接收光功率为-21.7d Bm;在基于超结构光纤布拉格光栅的三用户密钥隐藏系统中,除了密钥的安全隐藏之外,三个用户密钥无误码传输的接收光功率分别为-25.85d Bm,-24.85d Bm和-23.7d Bm。在第四章中,针对无源光网络中的数据安全传输问题,提出了一种基于简并四波混频效应的光加密系统。简并四波混频效应使多波长信号之间更容易实现相位匹配。仿真结果表明,经过简并四波混频效应后,用户四相移键控信号的相位被加密扰乱,难以被窃听。另外,为保证四波混频加密系统中密钥信号的安全,本文提出了一种结合超结构光纤布拉格光栅和高非线性光纤的混合光加密系统。系统仿真显示,除了上文所述的相位扰乱之外,经过超结构光纤布拉格光栅编码的密钥信号可隐藏在四波混频加密的信号之下。从而保证了密钥信号的安全。最后,在波分复用无源光网络中,仿真验证了三用户的混合光加密系统。结果表明,在保证密钥和数据信号安全传输的同时,接收端无误码传输时的最低接收光功率为-14.87d Bm。