卫星通信比其它的传输媒体有许多独特的优点,但随着宽带卫星通信的发展,有用频谱资源越来越有限,解决的办法之一是提高频谱利用率,希望选择合适的高阶调制信号进行卫星通信。传统QAM虽然频谱效率高,由于HPA的非线性不适合在卫星信道上传播。高阶调制方式改用APSK,使之接近MPSK星座的功率效率,又能与矩形QAM一样具有较高的频谱效率。我们研究APSK这种星座的目的是针对低信噪比和非线性特性的卫星信道,从最小欧氏距离最大和互信息最大两方面对APSK进行优化,选用与之匹配的最优相对半径和相对相位。由于HPA的非线性,对信号产生了严重的非线性失真,应采取一些补偿措施。本文通过比较得出,对APSK星座在通过HPA时进行预失真补偿,通过HPA后还原成理想的APSK信号,这种方案优于其它方案,并且可与收端非线性均衡结合,取得很好的效果。APSK与QAM星座都属于高阶调制,在调制解调方案上有相似之处。本文涉及的APSK的调制与解调都借鉴了QAM的一些方法。卫星信道的信噪比低,应采用超强的纠错编码来弥补,在必要时采用其它简单调制方式与APSK调制方式相结合,如DVB—S2中同步头部分采用π/2 BPSK调制方式。针对APSK是圆形的,编码方式有不同于QAM的特点,本文还提出了一种针对APSK星座的软解调方法。