非配合通信存在信源、信道等先验信息缺失的突出问题，获取目标信号十分困难。盲源分离技术不依赖于源信号先验信息，仅利用混合观测信号即可有效分离、重构源信号，因而成为非配合通信目标信号提取的有效方法之一。本文即围绕非配合通信中的目标信号高效分离算法展开研究，主要完成工作如下：1.针对经典盲分离算法分离带噪信号性能不佳的问题，给出一种基于特征矩阵联合近似对角化（JADE）与小波去噪联合的自适应盲分离方法。该方法将小波去噪引入盲分离算法，分为观测信号前去噪和分离信号后去噪两种方式，进一步为充分利用这两种方式在不同高斯源条件下对信噪比不同的适应性，增设信噪比预估计，实现算法自适应选择，从而提高分离算法对不同信噪比的适应能力。2.源信号个数未知条件下，主分量分析（PCA）方法容易错误估计源信号个数，造成信号子空间划分不准确，从而导致信号分离性能下降。针对此问题，提出一种改进白化的MDL-FastICA算法。该算法采用MDL方法估计源信号个数，提高信号子空间与噪声子空间的划分精度，在此基础上，利用噪声特征值估计噪声方差，并根据噪声方差对信号主特征值进行修正，抑制噪声影响。仿真结果表明，不同高斯源条件下，与经典FastICA算法相比，改进算法源信号个数估计准确率高，分离性能提升明显。3.概率密度函数估计是多种盲信号分离算法的基础，而其激活函数选取不当会导致算法分离性能的严重下降。针对此问题，给出基于规范四阶累积量的盲分离算法。该算法以最大化规范四阶累积量绝对值为目标函数，规避了激活函数选取的问题，采用PSO-CF方法进行优化求解，具有可获得全局最优解和低算法复杂度的突出优点。仿真结果表明，该算法对超高斯、亚高斯及混合高斯型源等信号均可有效分离，算法普适性强，收敛速度快，分离性能好。4.针对从多源混合信号中抽取有限个数目标信号的实际应用需求，为进一步提高基于规范四阶累积量盲分离算法的运行效率，提出一种基于PSO-CF的有限目标信号盲抽取算法。该算法引入参考独立分量分析方法，通过分离信号与期望信号误差估计，获得分离效果评估，作为分离算法收敛标志，以最小时间代价完成目标信号的分离。仿真结果表明，该算法分离性能好，复杂度低，运行效率高。