随着雷达技术的飞速发展和新体制雷达的广泛应用，雷达所处的信号环境呈现出密集、复杂和多变的特征，雷达信号分选的难度也逐渐增高。目前传统的信号分选方法已无法满足实时性分选的要求。为了能够有效分选复杂信号环境下的雷达信号，本文深入研究信号分选的关键算法，并针对单一分选算法存在分选结果模糊性甚至无法正确分选的缺陷，研究算法联合分选。首先，分析了雷达信号分选所面临的复杂信号环境，简要介绍了动态关联法、直方图法、平面变换法等常见的传统信号分选方法，并针对传统分选算法中存在的子谐波问题，研究PRI变换法及其改进算法。仿真结果表明，改进的PRI变换法对复杂信号环境中的抖动信号、脉冲丢失信号具有较好的分选效果。其次，将独立分量分析应用到雷达信号分选中，重点研究了基于FastICA算法的雷达信号分选。该算法对复杂信号环境下不同调制类型的雷达信号有着良好的分选效果，尤其是对同时到达信号。针对噪声干扰下ICA算法分选效果较差的情况，研究基于FastICA算法和小波变换的综合分选算法，该算法对低信噪比下的雷达信号有良好的分选效果。最后，针对复杂调制雷达信号的脉内特征进行了研究，重点研究了基于小波脊线提取脉内特征的雷达信号分选方法。由于小波脊线法无法正确分选相同调制类型不同调制参数的雷达信号，本文结合改进的PRI变换法，研究了基于小波脊线和PRI变换法的综合分选算法，并通过仿真验证该方法对复杂信号环境下大量未知雷达信号有很好的分选效果。