在电子战的恶劣环境中,如何有效的抑制干扰是克敌制胜的前提;在分布式多输入多输出系统中,如何逼近其系统容量是下一代移动通信系统的关键技术。针对上述问题,迭代检测成为了很有吸引力的一种处理方案。迭代检测技术通过交换信号先验信息,将原本独立的信号处理模块联系起来,使系统获得更优越的性能。因此,本文围绕着迭代检测技术在抗干扰系统和分布式多输入多输出系统中的应用进行了研究。针对加性白高斯噪声信道中的发射信号,提出了利用单音信号频域特性的单音干扰抑制方法。该方法结合单音信号在频域的特性,对单音干扰进行重建,然后通过干扰对消达到抑制干扰的目的。计算机仿真表明,当干信比为50dB时,采用该方法的误码率性能与无干扰时的误码率性能基本吻合。针对加性白高斯噪声信道中的发射信号,提出了迭代多音干扰抑制方法。该方法采用排序干扰检测的方式重建干扰,然后进行干扰对消,接着将对消后的信号再排序干扰检测、再对消,通过这样的迭代过程抑制多音干扰。仿真结果表明,多音干扰的频率间隔越大时,该算法的干扰抑制性能越好。针对有用信号和干扰信号均处于衰落信道中,卷积码信道编码的发射信号,提出了衰落信道下的迭代单音干扰抑制方法。该方法利用衰落信道下单音信号的频域特性,对干扰信号进行重建及干扰抵消,同时,结合单载波频域均衡迭代检测技术,实现衰落信道中的联合单音干扰抑制及信号检测。仿真结果表明,当干信比为25dB时,6次迭代后的误码率性能与无干扰时的误码率性能基本吻合;当干信比为10dB、误码率为10?4时,6次迭代较之1次迭代节约信噪比达2dB左右。针对信道码为卷积码的V-BLAST类分布式MIMO系统,提出了最大似然迭代检测算法及一种低复杂度的迭代检测算法。两种算法的复杂度分别为O(2^M_TSlogM)和O（M_T²M_R²S²M）。通过对低复杂度迭代检测算法的计算机仿真表明,与非迭代的迫零检测相比,低复杂度的迭代接收机节约信噪比约7.5dB;在相同的误码率下,迭代6次与迭代1次相比,可节约3dB的信噪比。在考虑大尺度衰落和小尺度衰落的信道条件下,针对信道码为卷积码的V-BLAST类分布式MIMO/OFDM系统,设计了发射机结构及其迭代接收方案。计算机仿真表明,误码率为10^-4时,4发1收与4发2收系统,迭代6次比迭代1