信息技术的发展带来容量的激增,波分复用系统信道间隔越来越小,超级信道系统成为研究热点。未来通信发展趋势是超高速率超大容量超长距离,这对传输网的性能提出新的要求。光放大器、相干检测、数字信号处理技术,完好地补偿了光纤线性损伤,因此研究光纤非线性效应从而提升系统性能非常必要。本文以超级信道系统中频域非线性效应估计理论为研究内容,主要包括:第一、研究偏振复用单载波色散补偿系统仿真平台下,不同系统参数对理论的影响,通过最小均方误差算法获得仿真非线性噪声功率谱密度,对比理论计算结果,分析理论的适用性与准确性;第二,研究偏振复用多载波无色散补偿系统仿真平台下,不同系统参数对理论适用性和准确性的影响;第三,研究偏振复用多载波无色散补偿奈奎斯特系统仿真平台下,固定传输总带宽,系统非线性噪声功率与信道复用数目之间的关系。经过大量的仿真,研究成果如下:首先,普通链路的仿真与理论预测不相吻合,主要在于普通系统不容易满足高斯噪声模型的假设,即信号分布呈高斯;其次,预色散可以扰乱信号分布,呈现高斯,仿真结果与理论预测在不同系统参数下均吻合良好;最后,固定传输总带宽,统一系统参数,系统非线性噪声功率在40个信道数目最小,信噪比最高,性能最优。本文针对系统非线性噪声的估计,对后续的抑制和补偿提供非常有价值的参考。