为了适应新一代移动通信技术的标准,给用户提供最佳的通信体验,寻找通信容量大、通信质量好的通信技术已经成为一项重要的任务。其中信道编译码技术的引入是解决通信质量问题的重要手段。而高阶域LDPC码在信道编译码技术中具有显著的优势,但是其高编码复杂度的问题一直影响着它在实际工程化中的应用。因此,在保证高阶域LDPC码优异的纠错性能的同时降低编码算法的复杂度,以达到硬件可实现化,是信道编译码领域面临的新挑战。同时将高阶域LDPC编码调制联合迭代系统应用于无线通信系统中能有效的解决通信容量的问题,并且具有重要的研究意义和实际应用价值。首先,论文在概述了高阶域LDPC码基本原理的基础上,对高阶域LDPC码的编码算法和译码算法进行了理论推导,并分别分析了它们的编码复杂度和译码复杂度。然后,针对高阶域LDPC码的高编码复杂度,提出了一种改进的PEG-QC-LDPC码校验矩阵构造算法。该方案利用改进的PEG算法构造校验矩阵的基矩阵,并将其应用于改进的QC-LDPC码的构造中,最终获得性能优异复杂度低的高阶域PEG-QC-LDPC码。同时将该构造方案与行合并技术结合可以获得码率自适应的定码长多码率的高阶域LDPC码。最后,为了适应高数据容量的通信系统,采用先进的调制技术——MQAM调制与高阶域LDPC码结合组成编码调制一体化的系统,在提高通信容量的同时,有效的增强了系统在信道中抗突发错误的能力。为进一步改善该系统的性能,提出了高阶域LDPC-QAM解调译码联合迭代系统。该系统基于Turbo迭代思想,将QAM解调和LDPC译码进行联合迭代,在保证频带利用率的情况下提高了系统的误码率性能。