在卫星通信数据链中,为了提供尽可能高的功率效率,高功率放大器(HPA)必须工作在饱和区(或非线性区)。然而HPA的非线性会使得诸如幅相键控(APK)、振幅键控(ASK)等非恒包络调制信号产生带内失真,从而导致接收端出现高误码率。鉴于此,恒包络调制技术便引起了广泛的关注。其中,连续相位调制(CPM)就是一种典型的具有高功效和高谱效的恒包络调制技术。同时为了提高数据传输的可靠性,纠错码与CPM级联(即串行级联CPM)方案成为了当前比较热门的研究课题。本论文重点研究卫星通信数据链中,大多普勒频偏和低信噪比环境下的串行级联CPM方案设计,围绕CPM信号分解方式的改进、准相干解调算法设计以及抗突发错误和抗多普勒频偏等关键问题研究,主要分为以下三个方面:(1)针对串行级联CPM系统,详细阐述了其系统模型并比较了卷积码(CC)级联CPM、Turbo码级联CPM和低密度奇偶校验(LDPC)码级联CPM方案的优缺点。对于串行级联CPM的外码,详细介绍了LDPC码的编译码原理。对于串行级联CPM的内码,具体介绍了单调制指数CPM(Single-hCPM)和多调制指数CPM(Multi-hCPM)的表达式、常用的Rimoldi分解和脉冲幅度调制(PAM)分解的原理以及相干解调和非相干解调的原理。(2)针对基于Rimoldi分解的未编码Single-hCPM系统,为了降低复杂度和削弱差错传播的影响,给出了一种非递归的CPM方案,该方案可以获得很好的误码性能;考虑非相干解调,借助导频辅助和滑窗思想,设计了一种适用于该方案的准相干解调算法以改善非相干解调性能。另外,考虑未编码Multi-hCPM系统,由于常用的PAM分解和Rimoldi分解的缺点,给出了一种新的分解方式和修正的准相干解调算法以用于Multi-hCPM信号的解调,再从解调复杂度、解调性能和功率谱这三个方面与未编码Single-hCPM系统进行了性能比较和复杂度分析。虽然非递归Single-hCPM系统具有更低的计算复杂度,但其误码性能和功率谱性能都差于Multi-hCPM系统。(3)针对串行级联Single-hCPM系统,以LDPC编码的GMSK系统为例,将非递归结构和准相干解调算法应用到该系统中,同时还从功率谱密度、带宽和系统容量这三个方面优化选择了非递归GMSK信号的调制参数。另一方面,考虑串行级联Multi-hCPM系统,以LDPC编码的Multi-h四进制RC-CPM系统为例,将新分解方式和修正解调算法使用在这一系统中。仿真结果表明,无论在AWGN信道、突发错误信道还是高移动突发信道下,这两个系统都可以取得较好的性能,因而可以成为卫星通信中比较有潜力的传输方案。