光纤作为信息化社会重要的基础通信设施一直推动着互联网的高速发展。近几年,在物联网、4K/8K视频应用、虚拟现实等新推出的互联网服务的推动下,全球互联网协议流量呈爆炸式增长。为了满足大规模和低成本部署的需求,基于直接检测/强度调制（Intensity Modulation/Direct Detection,IM/DD）的短距离光链路已被广泛研究用于数据中心光互连以及光纤接入网。随着日益增长的流量需求,许多先进的调制格式被用于提高频谱效率并降低电子和光学元件的带宽限制,如四电平脉冲幅度调制（4-level Pulse Amplitude Modulation,PAM4）、无载波幅度相位调制（Carrierless Amplitude Phase Modulation,CAP）、离散多音调制（Discrete Multitone Modulation,DMT）。考虑到系统功耗和实现的复杂性,短距离光链路中最具吸引力的调制格式是PAM4,它被认为是下一代无源光网络的非常有希望的候选格式。然而,相较于不归零编码（Non Return to Zero Code,NRZ）,PAM4信号对系统光电器件造成的非线性损伤、码间串扰等影响因素更为敏感。为了解决这一问题,基于PAM4信号的均衡技术已成为一个重要的研究领域。本文以研究PAM4信号在IM/DD光纤通信系统中所需的均衡技术为目标开展。通过VPI和Matlab软件搭建了的基于PAM4的IM/DD仿真系统,验证了所提出算法的可行性,并比较了不同算法间的优劣。本文的主要研究内容由以下三部分组成。（1）介绍了IM/DD光纤通信系统的框架以及重要的组成部分,分析了PAM4信号在IM/DD系统中受到损伤的主要来源。其中重点研究了马赫增德尔调制器（Mach Zender Modulator,MZM）的线性度不足引起的PAM4信号非线性失真以及光纤色散引起的PAM4信号码间串扰。在此基础上发现MZM引起的信号非线性失真会与码间串扰相互结合造成更严重的非线性损伤。使用Matlab与VPI搭建了基于PAM4信号的使用MZM调制的50Gbits/s IM/DD仿真系统。（2）利用基于沃尔泰拉级数的非线性均衡器（Volterra Series-based Nonlinear Equalizer,VNLE）以及基于神经网络的非线性均衡器（Artificial Neural Network-based Nonlinear Equalizer,ANN-NLE）对系统非线性损伤进行补偿。提出一种基于最小二乘法（Least Squares,LS）的VNLE,其相比传统的基于最小均方差算法（Least Mean Square,LMS）的VNLE可以进一步提升误码率性能。仿真结果表明,在传输距离为10km的情况下,基于LS的VNLE获得比基于LMS的VNLE更好的误码率表现,若要使误码率降到10-2以下,基于LS的VNLE所需的最小接收光功率较基于LMS的VNLE降低了约1d Bm,VNLE-LMS较线性均衡降低了约1.5d Bm。VNLE-LS与ANN-NLE均衡后误码率性能基本相当,ANN-NLE误码率性能明显优于基于LMS的VNLE。若要使误码率降低到10-2以下,ANN-NLE所需的最小接收光功率较基于LMS的VNLE降低了约1.5d Bm。（3）提出一种基于无记忆多项式的数字预失真技术（Digital Predistortion,DPD,DPD）与线性均衡（Linear Equalizer,LE）结合的联合方案。这一方案在发送端预补偿了MZM对信号造成非线性失真,在接收端补偿光纤的色散引起的码间串扰。避免了两种损伤结合产生更为严重的非线性损伤。仿真结果表明,这一联合方案误码率性能优于三阶的基于LMS的VNLE,并且前者只需要后者13%的计算复杂度。在传输距离为10km的情况下,若要误码率达到2×10-3,联合方案所需的最低接收功率较基于LMS的VNLE降低了1.5d Bm。