近些年来,随着国家对于“数字中国”和“互联网+”战略的扶持和推进,涌现出一批新型信息技术,如人工智能、大数据、短视频等。在5G万物互联和新型技术快速发展应用的背景之下,互联网流量一直呈指数级别增长,并且这种趋势会长期地持续下去。为了满足人们对于流量增长的需求,骨干网络的传输容量逐年迅速增加,对于通信系统的性能和容量需求也愈加急迫。然而,频谱效率和信道中的噪声干扰会严重影响通信系统性能。面对这些问题,各种调制技术和信道编码技术应运而生并引起了广泛的关注研究。信道编码是通信系统中重要的组成部分,本文主要研究前向纠错（Forward Error Correction,FEC）码中的低密度奇偶校验（Low Density Parity Check,LDPC）码。以实现高阶调制下FEC编码的最优传输为目标,搭建了FEC码仿真传输系统,在不同调制格式下测试仿真系统的纠错性能。随着对神经网络研究的不断深入,将其引入到信道编码领域中也成为一个研究热点。本文基于多层感知器（Multi-Layer Perceptron,MLP）网络构建了LDPC码的译码器结构,并对构建的译码器进行性能仿真。论文的主要工作包括:（1）基于有限域构造出LDPC码的校验矩阵,深入研究LDPC码的编译码算法。针对2进制LDPC码,主要对置信传播（Belief Propagation,BP）算法以及对数域（Logarithmic,Log）BP算法进行研究,通过仿真对比了两种算法的纠错性能。针对多进制（Non-Binary,NB）LDPC码,研究了BP算法以及基于快速哈达玛变换（Fast Hadamard Transformation,FHT）的BP算法,对两种算法的纠错性能进行仿真对比。LDPC码的纠错性能会受到如码字长度、译码迭代次数和码率的影响,分别研究这些因素对译码产生的作用。（2）针对发送信号与传输信号的调制方式不同,研究了LDPC码译码消息初始化的软解调计算方法。为了实现高阶调制下FEC码的最优传输,搭建MATLAB仿真传输系统,选择LDPC码作为信道编码方案,将正交幅度调制（Quadrature Amplitude Modulation,QAM）作为系统中信号的调制方式,分别采用16QAM、256QAM以及1024QAM不同调制格式进行仿真传输。仿真结果表明,比特信噪比（/0）在4.2d B、10d B以及15.5d B时,接收到的信号在译码前的BER约为10-1,经过译码后的BER接近10-7,展现出较强的纠错能力,数据能够稳定传输,有效解决了噪声干扰对大容量传输带来的影响。为了提升1024QAM下的传输效果,提出一种级联优化编码方案,将LDPC码与里德所罗门（Reed Solomn,RS）码进行级联编码。在BER接近10-7时,较单独的LDPC码,所提出的级联码约有2d B的增益。（3）通过对LDPC码的译码过程分析,设计了一种基于MLP神经网络的译码器结构。首先构建了2进制下LDPC码译码器,并对其纠错性能进行仿真。针对译码器阶数较低的问题,设计了一种新颖的4进制下LDPC码译码器,经过仿真得出,所设计的译码器纠错能力稍差但计算复杂度低,适用于传输效果要求不高但实时性强的应用场景。为了进一步提升纠错性能,提出一种优化的FHT-BP-MLP-BF译码算法。仿真结果显示,在LDPC（10,5）下且BER为4×10-4时,对比FHT-BP算法,FHT-BP-MLP-BF算法的/0约有1d B的增益。在LDPC（128,64）和LDPC（256,128）下,当BER为10-7时,FHT-BP-MLP-BF算法的/0分别约有0.9d B以及0.75d B的提升。由此可见,本文所提出的译码算法具有更优异的纠错性能,适用于对误码有着较高要求的传输场景。