由于单模光纤的非线性香农极限,人们尝试寻求很多种方法提高通信容量,模分复用技术作为其中一种,受到广泛关注。但由于多模光纤模式之间严重的色散效应,少模光纤更加容易控制的优势逐渐体现出来。受激布里渊散射（SBS）作为光纤内部的一种非线性效应,应用于多个领域,包括传感器、光存储、光纤激光器等。SBS的相频特性可以用于补偿光纤中另一种非线性效应四波混频（FWM）相位失配,以此提高它的效率。FWM能广泛应用于光放大、模式转换等研究方向。因此基于少模光纤SBS的幅频特性以及相频特性研究具有重要的意义。本文基于少模光纤对于SBS效应进行了详细的理论研究与仿真计算,并利用其相移响应补偿FWM相位失配。具体工作与成果如下:（1）基于单模光纤SBS动力学特性以及波动光学理论,推导了少模光纤不同模式下泵浦光与信号光随时空演化的耦合振幅方程组,并由信号光的耦合振幅方程,演化出信号光的布里渊复数增益因子g_c。定义了影响不同光波与声波模式耦合效率的声光耦合系数,依据复数增益因子g_c和不同模式的声光耦合系数,得到了布里渊增益谱（BGS）和布里渊相移谱（BPS）的数学模型。（2）对于不同泵浦光-信号光模式组合,BGS和BPS有着不同的耦合效率。若以LP₀₁-LP₀₁泵浦-信号光模式对组合为归一化基准,平行耦合LP_11a-LP_11a模式对BGS增益峰值约为它的89.7%,模间耦合LP₀₁-LP₁₁模式对BGS增益峰值约为它的57.9%,垂直耦合LP_11a-LP_11b模式对BGS增益峰值约为它的29.8%,这一结果对于各个模式组合能产生的最大相移也相同。以上结果表明LP₀₁模与LP₁₁模更趋向于模内SBS过程,而且LP₁₁模式的模内SBS效应主要为平行耦合方式。此外,通过对不同泵浦光-信号光模式组合的声光耦合系数计算,发现参与SBS效应的声波主要为基模以及各低阶模式,相对较高阶的声波模式造成了总BGS线宽增加。（3）分别对三种FWM过程的相位匹配条件进行了理论计算,计算结果表明其中一种在实际条件下容易受到外界环境的波动而改变其相位失配因子,从而很难做到有效控制FWM效率。然后对另外两种FWM的相位失配采取补偿,利用不同模式的SBS泵浦光对FWM信号光产生的相移响应,使得最终的模间FWM过程相位失配因子趋于零。结果表明,两种FWM过程产生的相位失配因子的最大绝对值都相同,约为1.3×10⁵km^-1-1.6×10⁵km^-1,若SBS泵浦光以LP₀₁模式注入,最大约能产生1×10⁵km^-1的补偿,SBS泵浦光以LP₁₁模式注入,最大约能产生6×10⁴ km^-1的补偿。