在当前合作/非合作通信中,出于对成本、体积等方面的考虑而较为广泛地采用单通道接收设备,这也使得复杂电磁环境下常面临的时频混叠数字通信信号问题变得更具有挑战性。为实现基于单通道混叠观测的信号分析及信息提取,必须先从其中分离得到目标信号。盲信号分离（Blind Signal Separation,BSS）技术即旨在仅基于混叠观测分离获取其中包含的感兴趣信号,其中单通道BSS技术更旨在基于单通道观测达成此目的。因此,对单通道BSS技术的研究将对提升现有合作/非合作通信系统应对时频混叠数字通信信号的能力具有重要理论及现实意义。本文根据不同分离问题场景及分离需求,分别对单通道观测条件下时频混叠数字通信信号的多信号波形分离、多信号符号序列估计、单信号波形分离、单信号符号序列估计进行了深入研究。在第二章中,首先对数字通信信号特性进行了深入分析,作为后续提出算法的物理基础。在第三章中,针对现有基于伪多通道观测构建的多信号波形分离算法分离效率较低且分离可靠性不高的问题,提出了一种新的基于伪多通道观测构建及独立分量分析的算法。该算法利用数字通信信号自回归特性高效构建伪多通道观测,并直接基于经典独立分量分析算法完成多目标信号波形分离。仿真实验验证了算法的有效性,其分离效率及分离质量较现有多信号波形分离算法显著提升。在第四章中,针对现有基于模型并采用联合估计的多信号符号序列估计算法计算复杂度较高且对目标信号参数适应能力不足的问题,提出了一种基于并行符号序列估计特征提取及序列标注的数据驱动类算法。该算法通过提取并行符号序列估计特征,并基于循环神经网络以特征序列标注的形式并行完成多信号符号序列估计。仿真实验验证了算法的有效性。该算法避免了现有采用联合估计的多信号符号序列估计算法计算复杂度随目标信号数及调制阶数指数增长的问题,同时对符号速率、信号功率等目标信号参数的适应能力优于现有多信号符号序列估计算法。在第五章中,针对现有基于信号子空间投影的单信号波形分离算法对目标信号先验信息依赖严重且计算复杂度较高等问题,分别提出了一种基于稀疏编码及模板匹配的算法与一种基于字典学习及约束条件下稀疏编码的算法。仿真实验验证了所提两算法有效性。相较现有单信号波形分离算法,基于稀疏编码及模板匹配的算法主要优势在于避免了对目标信号波形先验的依赖,同时计算复杂度大幅降低;基于字典学习及约束条件下稀疏编码的算法主要优势在于分离质量显著提升,同时亦无需依赖目标信号波形先验。在第六章中,针对单通道观测条件下时频混叠数字通信信号的单信号符号序列估计问题,首次提出了一种基于抗扰符号序列估计特征提取及序列标注的数据驱动类算法。该算法通过提取特定目标信号抗扰符号序列估计特征,并基于循环神经网络以特征序列标注的形式完成符号序列估计。仿真实验验证了所提算法的有效性。第七章对本文工作进行了总结,并对未来工作做出了展望。