光纤通信技术作为—种有线光通信技术,已成为支撑现代网络通信,承载互联网发展的关键技术,可以实现大容量,长距离,高可靠性的通信传输。随着互联网的演进与发展,通过互联网传输交换的数据量指数级增长,提高数据的传输速率与通信可靠性已经成为光纤通信技术的一大需求,因此在光纤通信系统中应用信道编码技术获得编码增益从而支持更大传输速率的信息传输成为了业内研究的热点。2009年,极化码作为一种能够被数学方法严格证明达到香农信道容量极限的信道编码方法被提出,其编码结构清晰明确,译码复杂度低,且纠错性能的鲁棒性强,迅速引起业内广泛的关注与研究。极化码与信道紧密相关,具有非普遍性,在不同信道状态下极化信道的可靠性会发生变化,影响极化码构造过程进而影响其通信性能。在光纤通信系统中,开展根据光纤通信系统的特性对极化码编译码过程进行优化的研究,以提升极化码的通信传输性能,具有重要的研究意义与应用价值。本论文以采用极化码编码的光纤通信系统为主要研究背景,重点研究了极化码的编码、译码过程与码率选择方法,分别提出了基于神经网络信道检测模块获取光纤信道信息辅助极化码编码的优化方案以提升极化信道可靠性估计的准确性;基于获取信道SNR信息扩展输入信息的神经网络极化码译码器优化方案以提升译码器的译码性能;基于自适应码率调节算法的极化码传输码率优化方案以提升极化码通信效率。本论文主要工作如下:（1）提出了一种通过获取信道信息的极化码编码优化方案。在光通信系统中,引入神经网络构建的信道检测模块,对信道信噪比（Signal Noise Ratio,SNR）值进行估计,将估计的SNR值作为发送端极化码编码时的design-SNR,提升极化信道可靠性估计的准确度,提升通信性能。将优化方案应用于相干光正交频分复用（Coherent Optical Orthogonal Frequency Division Multiplexing,CO-OFDM）系统中,并对 CO-OFDM 系统的调制解调与串并转换等步骤做相应调整以使其更匹配优化方案,发挥性能优势。仿真结果说明,通过获取每个子载波的信道SNR值进行差异化极化码编码可以为极化码带来性能提升,对于码长N=512,码率R=0.5的极化码,在BER为10-4时有约1.4dB的性能增益。（2）提出了一种极化码译码神经网络的优化方案。利用神经网络信道检测模块估计光纤信道的电SNR,计算接收码字的对数似然比（Log likelihood Ratio,LLR）值,并将SNR信息与LLR值共同作为神经网络译码器输入信息,以使网络在不同信道情况下对译码过程有针对性地优化。构建并训练以不同神经网络模型为基础的神经网络译码器,并分别在光纤通信系统中验证采用优化方案译码器的性能。仿真结果表明,采用优化方案的神经网络译码器相较未经优化的神经网络译码器具有性能优势。（3）提出了一种极化码自适应码率调节算法,并基于该算法提出极化码传输码率优化方案。所提出的自适应码率调节算法根据极化码码长、信道信噪比与传输信息重要度推荐极化码的编码码率,利用极化码接收错误概率对极化码的通信性能作近似估计降低算法的应用难度,同时在算法的基础上训练神经网络,以降低每次码率搜索的计算复杂度。仿真结果表明,优化方案可以根据系统通信可靠性要求选择适合的极化码编码码率,达到提升通信效率的目的。