进入二十一世纪以来,随着人们对互联网的依赖度越来越高,网络带宽逐渐成为日常生活不可缺少的资源。据统计,近年来中国干线业务量和网络带宽呈现出了迅猛增长的趋势,实际年增长率已超过200%。假设干线节点的交换容量每年递增40%,那么具备1Pbit/s交换能力的节点将在2024年出现,同时链路层速率也将达到Tbit/s量级。宽带需求的急剧增长给网络基础设施的建设带来了巨大压力,高速率、大容量光通信系统成为下一代网络的重要支撑之一。尤其对实现单信道100Gbit/s以上速率的超大容量传输,光正交频分复用技术是一种十分重要的解决方案。光正交频分复用系统不仅可以有效改善光纤色散和偏振模色散的传输影响,而且不同子载波间的频谱排列紧凑,能够充分利用带宽资源,此外对高阶调制格式和电域数字信号处理的实现过程也更为灵活和简单。但是,在光正交频分复用系统中面临的一类重要问题是信号传输时会产生严重的非线性损伤效应。由于来自于多个子载波数据的相互叠加,光正交频分复用系统时域信号呈现出与噪声类似的随机波动和较高的峰均比,同时子载波的窄间隔特性也使得四波混频效应更为显著,这些因素的积累加剧了子载波之间的非线性串扰,最终导致信号质量劣化甚至无法满足传输性能要求。当前,光正交频分复用系统的非线性损伤补偿方案大都采用离线均衡处理方式,计算复杂度高且时间花费较大,对系统容量的扩展受到限制。能够实时运行的在线均衡方案尚未取得令人满意的效果。为深入研究多载波系统中非线性损伤的发生与处理机制,本论文在国家科技项目的资助下,针对这一问题进行了深入理论分析和仿真建模工作,获得了若干创新性研究成果。完成的主要工作和创新点如下：第一,针对正交频分复用信号在光纤信道内容易诱发较大子载波间非线性串扰的问题,首次将子载波能量交错排布的设计思路引入到发射端电域数字信号处理结构,提出了一种基于脉冲成形技术的光正交频分复用系统中非线性损伤预补偿方案,通过采用具备良好局域性的时域脉冲波形以减少光纤传输时各个子载波能量交叠现象的发生,有效降低了四波混频效应的影响,改善了累积残余色散过高条件下的非线性损伤补偿效果。数值仿真结果表明,当入纤功率为0dBm时,对于累积残余色散高达32000ps/nm的标准单模光纤链路,该方案可使经过传输后的光信号Q因子提升3dB。第二,在深入分析四波混频效应的近似解析模型基础上,提炼并升华了相位阵列中多个相因子相互抵消的技术思想,设计了一种能够抑制光正交频分复用系统中非线性物理损伤的解决方案。该项技术利用光纤链路中的可调元件来调整信号传输的功率配置,调整后的参数使多个光纤跨段构成的相位阵列形成相互抵消的效果,此时多跨段非线性有效长度取其最小值,而子载波之间的非线性串扰也得到了有效控制。由于不涉及光信号的产生和接收过程,也不需要采用复杂的电域数字信号处理功能,因此该技术无需占用额外的带宽资源,因而在实际环境中的执行过程也更加容易。第三,光正交频分复用系统通常采用非优化光纤链路以减小子载波间非线性串扰的影响,而动态透明光网络作为未来网络的重要演进方向,其灵活多变的业务特征和实时路由功能要求能够对非优化色散配置下的非线性传输代价作出快速、准确的评估。但是,目前已提出的基于非线性相移的方法只在优化色散图中有效。针对这一问题,本论文研究了非优化光纤链路中的物理损伤评估策略,提出了一种基于脉冲展宽因子的非线性损伤评估技术,通过数值仿真在RZ-DQPSK单载波系统中验证了所提出方案的可行性。仿真结果表明,该技术在非优化色散图中具有理想的评估效果。第四,高效的光域信息处理和物理损伤补偿技术能够推动全光正交频分复用系统快速发展,这些信息处理功能的执行过程离不开慢光延迟器等全光信息处理模块。因此,本论文从周期性介质材料中光信号的传播规律出发,研究了光子晶体的慢光信息处理相关技术,提出了新颖的多原子光子晶体慢光延迟器结构及其设计和优化方法,并且利用数值仿真验证了光信号在其中的无畸变传输特性。我们的工作为多原子光子晶体在未来光信息处理技术中的潜在应用提供了重要的理论基础。