随着光纤通信技术的快速发展,光纤通信系统及网络成为承载信息传输的最主要的设施,如何保障光纤通信的安全变得尤为重要。经典加密技术作为目前广泛使用的光纤通信安全防护手段,面临着被量子计算机的强大计算能力破解的威胁。近年来,光纤通信物理层安全技术作为经典加密技术的必要补充,成为保障光纤通信安全的重要手段,并形成了加密传输和密钥协商两个技术方向。在基于密钥的安全技术中,信息的安全取决于密钥的安全,因此密钥协商技术对光纤通信安全具有十分重要的影响。本论文围绕如何利用物理噪声保障光纤通信安全这一问题,探索了光纤通信系统中基于物理噪声进行密钥协商的可能性。重点针对密钥生成率受限的问题,研究了基于强度调制量子噪声流加密机制的密钥协商方案以及基于相位噪声掩藏的密钥协商方案。此外,针对加密传输方向研究了基于相位噪声掩藏的加密传输方案。本文的主要内容和研究成果如下:(1)基于量子噪声流加密系统中用于掩盖信号的散粒噪声和放大自发辐射(ASE)噪声的分布特性,建模分析了强度调制量子噪声流加密机制的信号变化过程,并研究了噪声分布和通信双方状态基差异两种因素对强度调制量子噪声流加密机制误码率的影响及其特点。此外,针对基于光纤信道特征提取的密钥协商机制进行了安全性分析,证明了该机制通过双端环回测量得到的误码率结果的安全性。(2)利用强度调制量子噪声流加密机制下的误码率特点,提出了强度调制量子噪声流加密机制下一种基于存活码元交换的密钥协商方案。该方案通过利用同基码元和异基码元的接收误码率差异实现密钥协商。仿真结果表明,该方案可以获得一致率高于98%的初始密钥,密钥生成率为0.02%,而且密钥具有良好的随机性和安全性。(3)基于高速光纤通信系统中激光器相位噪声的特性,分别提出了单载波相干光通信系统基于相位噪声掩藏的一种密钥协商方案和一种加密传输方案。利用Matlab搭建了单载波相干光传输仿真模型。仿真结果表明,所提出密钥协商方案的密钥一致率可达到98.5%,密钥生成率达到0.12%,具有良好的密钥一致率和密钥生成率,同时具有良好的密钥随机性和安全性。此外,仿真结果显示,所提出加密传输方案的合法接收方的误码率小于1E-4,而窃听方Eve的误码率约为0.5,表明该方案具有较好的传输性能和安全性。