掺铒的光纤放大器(EDFA)是光通信中的重要元件，它可以对现有波分复用系统(WDM)中所有波长的光信号进行放大，从而代替了一组单波长放大器，而且EDFA对光信号的放大具有高增益、低噪声等特点。但是由于EDFA中工作物质铒离子能级结构的影响，EDFA对光信号的放大特性也有其固有的缺陷：EDFA对不同波长的光信号的增益并不完全相同，即其增益谱不平坦，因此一组强度相同的光信号经过放大后的强度会有所不同而产生偏差。光信号经级联放大后这种偏差不断积累，最终使得光信号失真，光信号的误码率增高。本论文就EDFA增益曲线不平坦问题进行了研究，提出了解决方案，并对方案进行了计算机模拟。本文的主要工作如下： 一．基于耦合器的增益补偿研究。论文从耦合波理论出发，建立了耦合器增益谱计算模型，通过不断调节耦合器的参数，使得耦合器的增益谱线与EDFA的增益谱线具有反对称(或者近似反对称)的起伏特性。将耦合器串接在EDFA的后面，即得到平坦化的EDFA增益谱。 二．对计算程序从算法上进行了改进。鉴于本文计算程序的最终目标是生成增益均衡器辅助设计软件(给出所需耦合器的增益谱的谱形及其参数)，因此，在计算耦合器的参数时，程序的自适应性和计算量方面具有更高的要求。本文中对数值求解的算法进行了改进，减小了计算量。在程序的自适应方面，本文调研和尝试了多种优化算法，最终采用了遗传算法对程序进行了优化处理，使计算具有自动性，而且可以得到更为精确的计算结果。 三．基于体相位光栅的EDFA动态增益补偿研究。EDFA在不同的工作状态具有不同的增益谱，这就要求增益补偿器件的增益谱形状要随EDFA工作状态的不同而发生变化。本文根据体相位光栅的理论，研究了体相位光栅增益谱随各参数的变化，并根据体相位光栅的增益谱特性，借助遗传算法，用多个体相位光栅实现了EDFA的动态增益补偿。本文还从实验上对体相位光栅进行了研究，利用H—PDLC制成了若干个体相位光栅样品，并对其重要特性进行了测试，更进一步的研究仍在进行中。