随着超大容量超长距离的密集波分复用技术的迅猛发展,各种限制因素的影响也逐渐变大,为了冲破这些不利因素的限制,各种关键技术不断涌现,采用新型的调制格式就是最为有效的手段之一。本文主要研究了差分相移键控(DPSK)光纤通信系统的性能。首先,介绍了光纤通信中的各种关键技术,DPSK调制技术的研究现状及目前对DPSK光纤通信系统性能进行理论分析中遇到的困难;其次,建立了DPSK光纤通信系统模型,并详细介绍了系统中各组成部分的工作原理;然后,采用KLSE算法研究了单端检测及平衡检测DPSK光纤通信系统的误码率特性,并对采用不同码型的平衡检测DPSK光纤通信系统中色散、偏振模色散及接收机端干涉仪相位误差给系统带来的功率损耗进行了仿真;最后,分析了DPSK系统中非线性效应产生的原因及影响。