随着传输速率的提高，传输距离的增长，传输带宽的增加，色散及非线性效应对光纤通信的影响日益突出，严重制约了现代光纤通信的发展，因而对色散补偿技术的研究变得越来越重要。在目前比较成熟的色散补偿方案中，主要有色散补偿光纤技术、光纤光栅补偿技术等；新的色散补偿技术主要有新型编码技术，电色散补偿技术，前向纠错技术等。本文在充分分析色散补偿光纤技术及光纤光栅补偿技术优缺点的基础上，采用了一种新的补偿技术，即光电色散补偿技术。与其它色散补偿技术相比，它具有成本低，使用方便，能大大提高系统性能的优点。本文重点研究光电色散补偿技术在高速光纤通信系统中的应用，主要工作如下：首先，从非线性薛定谔方程出发，分析了高速光纤通信中色散补偿的原理，色散及非线性效应对现代光纤通信的影响。对同一种色散补偿技术，采用不同的色散管理方案，补偿的效果也不一样。其次，对现有的色散补偿技术进行了介绍，分析色散补偿光纤技术及光纤光栅补偿技术优缺点，采用了一种新的补偿技术，光电色散补偿技术。电色散补偿技术有不同的均衡器结构和算法，本文采用FFE和DFE相结合的均衡器结构和最小均方算法。最后，采用对比的方法对光电色散补偿技术进行仿真，重点研究光电补偿技术在G.652光纤，10Gbit/s的光纤通信系统中的应用。一是研究电域均衡器的最优化参数，即电域均衡器在什么条件下能更好地提高系统的性能；二是研究采用光电补偿技术的系统Q值随入纤功率的变化，分析色散及非线性效应对光纤通信的影响；三是在相同条件下，比较光电补偿技术与全光色散补偿技术的优越性。模拟仿真结果表明，光电补偿技术能大大提高系统的性能，在抗非线性上比全光补偿系统有着明显的优势，在入纤功率较高的情况下，仍能保持较高的系统Q值。特别是在波分复用系统中，光电色散补偿技术仍能发挥自己的优势，大大提高了系统的传输性能。光电色散补偿技术对实现现有通信系统的升级和扩容，满足长距离高速光纤通信的要求有着非常重要的意义。