在现代通信网络中，采用全光通信的方式对网络进行提速、升级是大势所趋。光纤光栅耦合器集光纤光栅的滤波、反射特性与光纤耦合器的多端口、周期特性于一身，被预测为将来全光通信的一大重要组成部分。目前已经成功应用于密集波分复用系统、掺铒光纤放大器（EDFA）系统、全光通信及光纤传感系统中。本文以光纤光栅耦合器的耦合模方程作为理论基础对其相关理论进行了深刻、系统的研究，完成的主要内容包括：1.介绍了光栅及耦合器的结构，以及用麦克斯韦方程分别推导光纤布拉格光栅和光纤耦合器各自的耦合方程的过程，阐述了两者各自的性能。然后详细介绍分析了同相和反相情形下，光纤光栅耦合器中前后向耦合系数、邻近波导耦合系数对于反射、透射率的影响以及在不同失谐量下光栅耦合器中的能量分布情况。2.对普通的光纤掺杂，其光纤将具有很强的非线性特性，利用该类光纤制成的光栅在理论上可以降低开关阈值，增强其对比度等开关性能。但是在仿真中，由于掺杂光纤二能级系统中极化强度不能忽略，传输矩阵法等常用方法不再适用于耦合模方程的计算。为此，本文对传输矩阵法进行了改良，将其与龙格-库塔法结合形成了一种新的算法。利用该算法研究了不同输入功率下的非线性透射率曲线，不同失谐量下的自开关现象。通过对输入功率从小到大和从大到小两种方式的变化，仿真分析了其透射率变化从而得到了掺杂光栅的双稳态特性。通过对不同参数的仿真分析了掺杂光栅自脉冲特性及其产生的条件。最后分析了在不同失谐量下的自开关特性。3.利用提出的算法研究了光纤光栅耦合器的非线性传输与开关特性。首先在不同的输入功率下分析了其色散曲线。然后利用新提出的算法对耦合模方程进行数值计算，分别分析了光纤光栅耦合器的自脉冲、双稳态、开关特性。通过脉冲演化图的仿真分析了信号在器件中的传输方式、能量的分布。将在实际应用中经常遇见的光脉冲作为输入信号，分析了其开关特性及脉冲演化图。最后，利用线性化的方法分析了光栅耦合器中的调制不稳定性。