空间通信系统作为人类上行控制航天器、下行获取空间天体资料的主要途径,是空间探测器中的最主要组成部分。为实现高效可靠的空间通信,不仅需要在极低信噪比环境下实现高精度的载波同步,同时还需要联合使用高性能纠错编码技术和高效调制技术,提高系统的功率利用率和带宽利用率。为满足未来空间通信系统的发展需要,本文针对具有高效带宽利用率和功率利用率的成形偏移四相相移键控(SOQPSK)信号展开研究。首先研究了全响应SOQPSK通用的网格编码调制和最佳接收机,针对递归/非递归SOQPSK-MIL、递归/非递归SOQPSK-TG的简化状态解调算法进行了深入研究与仿真,提出了非递归SOQPSK-TG信号的简化两状态解调算法。之后研究了编码SOQPSK级联系统,通过对TPC与非递归SOQPSK级联、Turbo与非递归SOQPSK级联、并行级联SOQPSK、串行级联SOQPSK四个系统的分析对比与仿真,权衡系统复杂度和误码性能两方面,给出了最优的编码SOQPSK级联系统。接着针对极低信噪比、大多普勒频偏环境,提出了一种适用于直扩编码SOQPSK级联系统的联合导频和解扩相关峰的载波同步方法,可有效地实现载波同步。最后,基于Verilog硬件描述语言,以Altera公司的FPGA芯片EP2C35F484C6为目标器件,对非递归全响应SOQPSK调制解调算法进行了实现验证,并分析了该方案的资源占用情况和信息处理速率,为SOQPSK信号在实际中应用提供参考。