超常介质是一种人工合成材料,它同时具有色散介电常数和色散磁导率,具有自然材料所不具备的许多独特的电磁特性。随着超常介质从初期在微波段到近期在红外甚至光波段的实现,对电磁学、材料学、光学、通信等学科产生了重大影响,将极大地拓展这些学科的传统研究领域。本文结合传统的非线性光纤光学的基本理论和最新的超常介质的独特性质,研究了超常介质中两个同向传输脉冲的非线性传输特性。取得的主要成果如下:第一,利用传统的非线性光学的基本原理,结合超常介质的新特性,从Maxwell方程组出发,建立了两个不同中心频率的脉冲在超常介质中传输的理论模型,并与常规非线性光学介质中的两个脉冲传输的理论模型进行对比,揭示了色散磁导率导致的新的非线性效应对脉冲传输的影响。第二,基于得到的理论模型,利用线性稳定性分析推导出了超常介质中交叉相位调制导致的调制不稳定性的增益谱表达式,并将其应用于Drude模型,研究了两光脉冲的中心频率同时和分别处于超常介质的正、负折射区时的调制不稳定性特性,着重分析了群速度失配、自陡峭效应及二阶非线性色散效应对调制不稳定性增益谱的影响。结果表明:在超常介质的六种情况下都能产生交叉相位调制不稳定性现象,每种情况下的调制不稳定性增益谱表现出不同的特性,但只要很好地控制群速度失配、自陡峭效应及二阶非线性色散效应,就能够控制好相应情况下的调制不稳定性现象的产生,从而很好地控制孤子的形成。最后,采用分步傅立叶算法求解所得到的耦合模方程验证了理论结果的正确性,并获得了调制的非线性演化特性。我们发现,在负折射介质的反常色散区,两光波在微扰的影响下都能分裂成超短脉冲,但分裂程度有所不同;在负折射介质的正常色散区,调制不稳定性增益较小,需要传输较长的距离才能使连续波分裂;两光波分别处于正、反常色散区时,只有一个光波分裂成超短脉冲。