正交频分复用(Orthogonal Frequency Division Multiplexing—OFDM)技术具备频谱利用率高、带宽扩展性强等一系列特点，是未来移动通信系统有竞争力的候选方案。现代移动通信系统高数据传输速率、高传输质量和高移动性的要求对信道估计与信号检测技术提出了非常严格的要求，而相对复杂多变的传播环境则使OFDM系统的信道估计技术面临更大的挑战。针对上述问题，本论文重点研究了OFDM系统的迭代信道估计和信号检测技术。 论文首先针对传统的非相干差分检测，提出差分编码器输入输出联合状态的概念，并设计出一种递归的网格图化简方法，实现了最大似然意义下的多符号联合差分检测。随后在此基础上，对其在衰落信道下的应用场合提出一种迭代检测结构，并将其应用于超宽带OFDM无线通信系统。在单位符号检测复杂度不变的前提下，检测性能可任意逼近多符号非相干差分检测的理论极限。同时也为各种类似的无记忆噪声中有限状态Markov过程的状态序列估计问题提供了一种新的解决方法。 其次，针对OFDM系统中多普勒频偏估计进行研究。在现有基于信道自相关特性的多普勒频偏估计算法基础上，对相关间隔和估计值的关系进行了理论分析，证明了存在使估计性能不受信噪比和频偏变化影响的最优相关间隔，并推导出该间隔具有的特性。随后利用该特性提出一种逐次缩小搜索范围的迭代算法实现对其搜索和最大多普勒频偏的估计。同时也证明了传统算法只能在一定范围内通过提高信噪比改善估计性能，超出此范围提高信噪比反而会降低估计性能。和传统基于相关估计算法相比，该算法自适应于信噪比和频偏变化，估计性能基本独立于信噪比和频偏的变化，突破了现有估计算法在低信噪比条件下不加后继辅助修正估计精度受限的瓶颈，实现多普勒频偏的直接高性能估计。 再次，在现有的OFDM系统迭代联合信道估计与符号检测算法的基础上，针对高速移动通信信道，利用RLS自适应滤波器在非平稳环境下有效跟踪输入统计量随时问变化的能力，提出一类基于对迭代初始值进行RLS自适应预测的迭代信道估计算法。通过对每次迭代的初始值和迭代步长进行递归计算提高其有效性，减少了后继迭代次数并提高了收敛结果的准确性。在复杂度适当增加的前提下，加快了迭代收敛速度，降低了系统误码率，提高了系统性能。 最后提出了一种新的减状态维特比译码算法。该方法在维特比算法思想的基础上，按照一定规则构造状态集合，进而对状态进行分类、比较、选择。使译码的复杂度由随编码约束长度的指数增长，降低为线性增长。在牺牲一定纠错能力条件下大量简化了维特比算法，是一种快速、可行的简化算法。