光纤通信是现代信息传输通信网的最主要传输手段,近年来光纤窃听检测技术的发展使其安全问题也越来越引起人们的关注,提高光纤通信网的安全性能对保障信息安全有着重大意义。本论文根据光信号在光纤信道中传输的物理特性,提出了一种以分数阶傅里叶变换(FRFT)和混沌为核心算法的光纤通信系统安全解决方案,设计了一套光物理层实时全光信号处理装置,在不影响光纤通信系统性能的同时,提高其安全性。论文由空域FRFT的光学实现引申提出了一种适用于光纤信号处理的时域光学实现方法,并用光纤通信常用器件给出了其具体结构模型。通过对比多种不同激光混沌,在现有延时反馈策略基础之上提出构造外部非线性环路的新方法,摆脱传统方法对激光器内部非线性的依赖特性,具有实现简单,控制方便等优点。首次提出混沌相位扰动与FRFT相结合的安全思想,混沌相位扰动消除了经FRFT处理的时间窗特性,同时FRFT的处理作用又掩盖了混沌系统的时间延迟特征参数。对本论文所设计安全光纤通信系统进行了软件建模,从安全性、可行性和通信性能等多个方面对系统仿真测试,在实验室条件下搭建了真实的功能模块与系统测试平台,验证了本系统对实际光纤通信信号的变换和恢复效果。所设计安全处理模块目前最高可适用于40Gbps的系统,传输代价小于2dB。