作为在信号与信息处理领域中一个非常活跃的研究方向，盲信号分离在图像处理，通信，电子对抗等领域得到了广泛的研究和应用，并取得了大量的成果。在早期盲分离问题的研究中，一般要做出观测信号数目不小于源信号的假设。然而随着研究的不断深入，基于欠定乃至单通道分离模型的盲信号处理算法近年来受到了广泛关注，这类算法的共同特点是在观测信号数目小于源信号数目的情况下解决盲分离问题。与适定情况下利用独立性进行分离的特点不同，这类算法需要利用更多的信号源特性，如稀疏性，有限符号集特性等等。 本文根据数字通信信号的特点，对单通道数字通信信号盲分离问题做了深入的分析和研究。从贝叶斯估计，独立分量分析等角度出发，分析和讨论了盲分离的可行性，分离算法的设计及性能分析，主要工作包括以下几个方面： 1.提出了一种针对单通道混合通信信号的调制方式识别方法，该方法利用了混合信号的循环平稳性，考虑混合信号的高阶累量特征，平方谱特征和四次方谱特征，实现了常用数字调制方式的识别，从而为分离算法提供了可利用的模型信息。 2.提出了一种基于过采样的低阶MPSK信号单通道分离算法。算法利用粒子滤波进行贝叶斯后验概率的递推估计，从而实现对码元符号和参数的联合估计，最终实现信号的盲分离。通过对接收信号的过采样，可以充分利用接收信号的波形信息，有效地抑制噪声影响，提高算法的误码率性能。文中同时进行了理论性能界的推导，对算法的进一步改进或发展有一定的指导意义。 3.由于粒子滤波算法的高计算量，使得它在处理高阶调制方式时效率比较低下。本文从独立分量分析的角度出发，对高阶调制方式的单通道分离问题进行了探索。算法利用两路成形滤波器的不同，通过过采样方法，将欠定盲分离问题转化为适定和过定问题，并利用独立分量分析(ICA)来实现符号和采样波形的恢复。