在光纤通信领域，光孤子理论及其在通信方面的应用是近年来被广泛关注的研究课题之一.在双折射光纤中，光脉冲传输的基本理论模型为耦合的非线性薛定谔方程.本文以光纤通信为背景，利用Hirota双线性方法，通过新的变换研究了两个变系数耦合非线性薛定谔方程，为进一步实现超高速、大容量的光信息传输提供一定的理论依据.　　1.首先介绍了广义变系数耦合高阶非线性薛定谔方程，该方程描述了高峰值功率的飞秒脉冲在双折射光纤非均匀介质中的传输演化;其次利用Hirota双线性方法结合Bell多项式，求得了方程的时间矢量单孤子和双孤子解;再次对孤子解的参量取值得到孤子的强度函数，利用Maple对强度函数进行数值模拟;最后根据孤子演化图像分析孤子在传输过程中所具有的特性，以及色散效应和非线性效应对孤子传输的影响.　　2.首先介绍了(2+1)-维变系数耦合非线性薛定谔方程，该方程考虑到两个偏振方向的分量，描述在非均匀非线性双折射光纤中光束的传输;其次利用Hirota双线性方法结合Bell多项式，求得了方程的空间矢量单孤子和双孤子解;再次利用数值模拟，对孤子强度的图像作数值分析，从而分析了光束的传输特性及衍射效应和非线性效应对孤子传输的影响;最后求得方程的畸形波解，并对畸形波的传输特性进行了分析.