随着移动通信和卫星通信的迅猛发展,人们已经意识到频谱资源的宝贵,高效的调制体制随之得到越来越深入的研究。FQPSK是一种频谱和功率高效利用的调制方式,其性能优于当前占主导地位的调制技术。现在,这种体制已成为美国遥测标准中的一种标准调制体制,因此对FQPSK调制体制的研究具有重要意义。而纠错码技术在实现高速宽带数据的可靠通信中是至关重要的关键技术环节,为了适应未来深空通信技术低发送功率、高增益、更高数据速率、低实现复杂度为主要特征的发展需求,本文主要研究了将FQPSK调制作为内码应用于级联卷积编码系统中,并分析其性能。本文首先介绍了FQPSK调制的基本原理,用网格编码的方式实现了FQPSK的调制,并分析了这种体制的优势。在随后章节中给出了两种常见的解调方式,重点研究了FQPSK的维特比解调,通过对比三种解调方式的误码率性能,证明维特比解调为最佳解调方式。在此基础上给出了简化的维特比解调方式,简化的维特比接收机仍利用了调制中的固有记忆性,在运算量极大减小的情况下,误码率性能只有轻微的降低,并根据这(?)结论得到了简化的FQPSK网格编码形式。最后对级联卷积编码做了研究,由于FQPSK调制本质上是一种卷积编码,可以把FQPSK的内部编码作为一种内码,将其应用到级联卷积编码系统中,而简化的FQPSK调制具有简单的网格形式,更利于应用到级联系统中。本文给出了FQPSK的两种级联卷积编码方案：并行卷积级联编码和串行卷积级联编码,并对两种级联方案的迭代译码方式做了研究,迭代译码中的软输入-软输出算法采用复杂度较小的Max-log-MAP算法。通过仿真可以看出两种级联编码迭代译码方案都可以获得比使用全维特比接收机的未编码的FQPSK系统更好的性能。