随着光纤通信技术的不断发展和光电器件制备技术的升级,长距离大容量光纤通信系统的容量限制主要取决于光纤链路存在的各类损伤,包括光放大器引入的噪声,链路损耗、色散和非线性效应等。为了诊断链路损伤引起的信号劣化,恢复有用信息,需要采用光性能监测和损伤估计算法,获取链路信息,对损伤进行估计和补偿,实现资源的合理分配。传统的光性能监测方法往往存在着计算复杂度高,灵活度低等缺陷,有待简化以适用于实时传输系统。非线性损伤的估计成本也需进一步降低。本论文根据链路参数信息和数字信号处理,提出并实现了一系列低复杂度的光纤传输链路损伤和性能参数的估计和监测算法。主要的研究内容和创新性成果如下:(1)针对相干光通信系统中的光信噪比监测问题,研究了掺铒光纤放大器的基本原理及其结构,分析其噪声模型以及对光信噪比的影响,通过提取网络管理系统链路参数信息,简化了级联放大器链路中的光信噪比推导过程。通过仿真和实验分析验证了此监测方法在不同的载波形式、调制格式、数据速率和掺铒光纤放大器工作模式下的监测范围和精度。相比于其他传统的光信噪比监测方法,本方法复杂度较低,可以灵活估计任意节点的光信噪比,能够与现有商用光纤通信系统兼容,对光信噪比做出实时监测。(2)针对多载波正交频分复用系统中的非线性损伤估计问题,提出了联合链路参数和训练序列的非线性估计方法。利用信号中固有的用于时间同步的训练序列,经过自相关和互相关,得到接收到的信号的电信噪比,继而利用其与光信噪比之间的线性关系得到非线性敏感的光信噪比。利用其与前述光信噪比监测方法的模型差异,可以提取出非线性损伤的大小,并将其定义为非线性代价。基于长距离大容量相干光传输仿真系统,在不同的光纤非线性系数及入纤功率下估计了非线性代价的大小并绘制等高线图。与传统非线性损伤估计算法相比,本方法没有增添计算成本,数字信号处理过程简单,大大降低了信号处理的复杂度。