现今,空天地一体化信息网络的高速发展以及高速率通信业务的激增给下一代低轨卫星通信系统的频谱利用率提出了更高要求。相比于正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM),具有更高频谱效率、更低峰均功率比和更低带外辐射的广义频分复用(Generalized Frequency Division Multiplexing,GFDM)为下一代低轨卫星通信信号传输体制设计提供了新的思路。但是GFDM子载波间的非正交性使得传统信道估计技术难以取得理想效果。因此,本文针对低轨卫星GFDM系统研究其信道估计算法,并进行了理论分析和仿真验证。首先,本文介绍了 OFDM和GFDM系统的基本原理以及技术异同点,详细介绍了GFDM的发射机和接收机的实现。对低轨卫星信道建模进行了介绍,搭建了基于GFDM传输体制的低轨卫星通信系统模型,并通过仿真对GFDM各项性能进行了仿真分析。然后,本文分析了 GFDM系统中的传统信道估计算法,针对GFDM子载波非正交性导致的信道估计性能恶化问题,结合GFDM信号调制解调特点,设计了一种正交导频插入方式,以避免来自于相邻子载波上数据符号的干扰。通过仿真验证,本文所提基于正交导频的信道估计算法能明显提升信道估计准确度。最后,考虑到基于导频的一次信道估计准确度有待提升、并且信道编码迭代译码器反馈信息未被充分利用,本文设计了一种用来实现GFDM迭代信道估计的Turbo码接收机。通过将译码器译码过程中的反馈软信息重构为数据符号,借助重构符号进行基于数据的信道估计,并通过迭代提高信道估计准确度。由于不准确的重构信号会造成噪声增强,本文提出了一种基于硬判决策略的GFDM迭代信道估计方法,通过硬判决门限来对重构符号进行判决来保证信道估计准确度。为了在保证性能前提下进一步降低迭代次数,本文提出了一种基于软判决策略的GFDM迭代信道估计方法,通过软判决控制权重实现同时利用两次迭代过程产生的重构符号,从而以更低的迭代的次数达到更理想的信道估计准确度。仿真结果表明,本文所提算法可以在GFDM低轨卫星通信系统中提高信道估计准确度,并能降低迭代次数。