高速光纤通信系统，特别是40Gb/s以上的超高速光纤通信系统面临着光纤群速度色散，偏振模色散，非线性效应的影响等日益突出的问题，这些问题成为影响光纤传输系统性能的主要因素。不同的线路码型对传输系统在色散容限、非线性的容纳能力、频谱利用率等方面具有各自的特点。根据实际情况，选择合适的调制码型，并将码型调制技术和其他光纤传输技术相结合，是提高通信传输质量的有效途径。 本文在分析光信号传播特性的基础上，分析了各种线路码型的产生及其频谱特性，并对采用各种线路码型的高速光纤传输系统的性能进行了仿真研究。 首先，以光信号的基本传播方程为主要研究对象，系统地研究了两种不同形式的传播方程以及偏振模耦合传播方程，并分析了群速度色散，偏振模色散，非线性效应等对光信号传输的影响。 接着，研究了光调制技术，对直接调制，马赫-曾德尔调制以及电吸收调制三种调制技术进行了比较，研究表明高速率长距离光纤传输系统中的码型调制用马赫-曾德尔调制器较为理想。随后，分析了基于马赫-曾德尔调制器的四大类码型(基于幅度调制的码型，基于相位调制的码型，基于幅度调制和基于相位调制相结合的改进型码型，以及线路码引入预啁啾后的码型)的工作原理，并利用计算机仿真得到它们的频谱特性，仿真结果表明：NRZ码频谱比较窄，但码元过渡不归零，易受非线性效应影响；RZ码的码元归零，有利于时钟恢复，抑制光纤非线性效应的影响，但RZ码频谱较宽对色散管理不利；CSRZ码既能够抑制载波又可以降低光谱宽度；线路码在初始脉冲上引入预啁啾，能够抵消传输过程中由于色散和非线性带来的啁啾，提高传输系统性能;强度调制与相位调制相结合的改进型码型频谱更紧凑，有更强的频谱利用率以及色散容忍度。 最后，本文建立传输系统的分析模型，采用基本传播方程的数值解法--分步傅立叶法，数值仿真了各种线路码型的抗非线性效应能力、色散容忍度、抗PMD能力，并分析得到了各种线路码型的优化参数，仿真结果表明：根据不同的传输情况，选择不同的码型及参数可有效的改善传输质量、提高系统传输性能。