近年来，超常介质因其负的介电常数和磁导率产生独特的而在常规介质中不能发生的特性或将引发了一场电磁学的革命。人工设计超常介质其构成单元的几何形状、尺寸、嵌入物、排列方式等因素决定了超常介质的电磁参数如介电常数、磁导率等，这样就为操控光的电场和磁场分量提供极大的自由发挥空间。本文基于光在超常介质中传输理论，研究了光在含超常介质的非对称耦合器中传输的新特性，着重研究了光在含超常介质的耦合器中时空调制不稳定性，主要成果如下：第一，利用传统的非线性光学的基本原理，结合超常介质的新特性，基于Maxwell方程组建立含超常介质反向定向耦合波导物理模型，揭示了超常介质磁响应特性与超短脉冲在耦合波导中传输机理，为研究了各种因素对调制不稳定性提供了理论基础。第二，研究含超常介质的不对称反向定向耦合器中的时空调制不稳定性，明确了输入功率、前向波和后向波功率比、通道间的耦合系数等对时空调制不稳定性的影响。结果表明：在这种新型耦合器中只有当横向波数超过一定阈值时才会发生调制不稳定性，增加输入功率或减少前向波和后向波的功率比都会扩大调制不稳定性增益谱的范围并最终使不稳定性区域重合，而降低耦合器通道间的耦合系数可减少调制不稳定性的增益峰值但拓宽增益谱的范围。超常介质的电磁参数可调谐特性为实现调制不稳定性的主动调控和孤子的形成提供了新的方法和手段，并对比了在传统耦合器件和含超常介质耦合器件不同传输特性。第三，建立了反向定向耦合波导电磁仿真模型，通过对模型的电磁仿真发现：不同的入射通道使耦合光波的损耗影响各异，场强、透射比等器件的重要电磁参数也与常规耦合波导有明显差异。另外，通过对透反系数的分析发现从常规材料直接入射比从超常波导通道入射耦合的情况，损耗更加明显。通过对该类型的波导的研究为超常介质与常规材料的混合使用的光学器件研究提供了有价值的借鉴。