随着通信技术的不断发展,日益密集的通信环境使得宽带通信侦察接收机捕获的宽频带数据中可能包含着许多具有不同特点的信号,如固定载频的常规通信信号、跳频信号、猝发信号、扫频信号、扩频信号、各种各样的人为和非人为的干扰信号等。如此多的信号交织在一起,使得感兴趣通信信号的监测难度越来越大,因此,研究如何对复杂通信环境中的各种通信信号进行分选,剔除干扰和噪声影响,发现感兴趣通信信号,并估计相应的特征参数,减轻通信侦察系统后续处理的负担,不但是一项很富有挑战性的课题,也已成为当前通信侦察领域紧迫而艰巨的任务之一。本文主要围绕载波频率固定的常规通信信号和跳频通信信号的分选问题进行研究,主要研究成果包括:首先,在推导多相DFT滤波器组的高效实现结构的基础上,讨论了原型低通滤波器对滤波器组输出噪声项的相关性影响。在噪声方差已知时,分别推导了考虑相关性的实际情况和不考虑相关性的理想情况下的虚警概率。当噪声方差未知时,提出采用单元平均(CA)、统计排序(OS)和前向连续均值删减(FCME-CA)算法进行频域检测,并推导了上述两种情况下的CA检测器的虚警概率。仿真实验表明两种不同情况下的检测性能非常接近。在实际应用中,可考虑忽略相关性对检测性能的影响。另外,上述三种检测算法的检测性能也通过仿真实验进行了比较。针对常规通信信号分选问题,提出了基于单天线接收或阵列接收的分选方法。这两种分选方法都主要由窄带信号检测、特征参数估计和窄带信号跟踪组成。在窄带信号检测中,为了降低原始双门限检测(LAD)算法的计算量,提出了一种改进的LAD算法;为了提高检测性能,将改进LAD算法与形态学处理相结合,提出了一种增强的LAD算法。在特征参数估计中,首先讨论了一种基于单天线接收的特征参数估计方法,然后考虑阵列接收情况,引入聚类分析的思想,提出了一种基于测量集分割的特征参数估计方法。在窄带信号跟踪中,首先分别讨论了基于单天线接收和阵列接收的窄带信号判决方法,然后给出了一种窄带信号库刷新方法。根据使用的时、频、空域信息的不同,分别提出了基于空频域信息、时频域信息和时频空域信息的跳频信号分选方法。基于空频域信息的信号分选与前述基于阵列接收的常规通信信号分选的流程非常相似,不同之处仅在于窄带信号跟踪方面。在此方法中研究了一种基于密度估计聚类的测量集分割算法和一种跳频信号跟踪方法。在基于时频域信息的信号分选中,首先提出一种基于形态学处理的时频域检测与干扰剔除算法,然后讨论了跳频信号的基本特征参数的估计方法。最后提出将基本特征参数集稀释后,采用累积差值直方图(CDIF)算法和中心时刻(CT)变换算法对每一子集中的中心时刻序列去交错,获得跳频周期的估计值。为了处理频率碰撞问题,引入空域信息,提出了基于时频空域信息的信号分选方法。这种方法与上一种分选方法仅在干扰剔除和特征参数估计中略有差异,它需首先对时频域中各连通区域对应的测量集进行分割,然后才能进行特征参数估计。在此研究了一种基于形态学分水岭聚类的测量集分割算法。因解决频率碰撞问题和基本特征参数集稀释问题,都可以看作是处理测量集分割问题,故提出了基于高斯混合模型的测量集分割算法。首先简单介绍了高斯混合模型和标准的期望均值最大化(EM)算法的概念,然后在基于正态性检验的EM算法基础之上,提出了一种竞争结束EM(CSEM)算法。该算法事先并不需要已知类别个数,对模型初始参数设置的稳健性,适合于分布形状为紧凑超椭球型的特征参数集。最后通过仿真实验验证了CSEM算法的有效性,并讨论了它在测量集分割中的应用。为了提高算法对特征参数形状和例外样本稳健性,提出了两种基于支持矢量聚类(SVC)的测量集分割算法。第一种算法是基于核参数估计的多球支持矢量聚类算法(KPMSVC),该算法是在分析扩展因子和惩罚因子对聚类结果的影响基础之上提出的。由于聚类标识在大样本情况下具有很高的运算量,故KPMSVC算法适合于小样本情况下的聚类分析。为了在大样本情况下应用SVC算法,提出了一种基于网格划分的多球支持矢量聚类算法。仿真实验验证了上述两种算法的有效性,并将它们分别应用于跳频特征参数集的稀释和解决频率碰撞问题。