基于外辐射源的无源雷达利用普通的调频广播、电视信号、卫星信号、手机基站信号等民用机会照射源,通过探测空中目标的微弱反射信号来检测和跟踪目标。外辐射源雷达由于具有抗隐身、抗干扰、抗突防以及生存能力强等优点,受到了各国重视并展开了许多相关的研究工作。国际上该种雷达已经步入了商用化和实用化阶段,国内的研究工作也进入了试验阶段。本文以基于调频广播的外辐射无源雷达系统为平台,针对该雷达系统中强直达波和多径的抑制、同频干扰的分离等关键问题进行了相关的研究和分析。本文的主要工作总结如下:(1)分析了基于调频广播的无源雷达系统的信号环境,对在不含同频干扰和含有同频干扰下的接收通道进行了信号建模,并分析了调频广播信号的信号结构、频谱特性、模糊函数等信号特性。(2)研究了直达波和多径的抑制问题。分析并比较了最小均方差(Least Mean Square,LMS)算法、归一化LMS算法、递归最小二乘法和扩展关联法这四种自适应滤波算法在调频广播雷达系统中的杂波抑制性能,为下一步的目标检测和参数估计提供了条件。(3)研究了同频干扰的分离问题。针对调频广播雷达系统存在的同频干扰问题,通过分析接收信号的成分构成和统计特性,提出了基于独立分量分析的同频干扰分离信号处理方案,理论分析和仿真结果均验证了所提方案的有效性和实用性,表明无论在接收通道是否混合有多径的情况下,均能够有效的从同频干扰中分离出目标回波并提取目标参数,并且目标的检测性能提高了35dB。