单通道信号分离是信号处理研究领域近年来高速发展的分支之一，是一个基本的、极富挑战性的研究课题。它在信号去噪、无线通讯、语音信号处理、生物医学信号处理、地震信号处理等众多领域有着广泛而诱人的应用前景。随着大量非线性信号处理问题的出现，以及对信号处理精确性、灵活性和实时性要求的不断提高，传统线性数字信号处理技术已经不能完全满足信号处理的需求，非线性数字滤波理论和技术逐渐发展起来，其中以粒子滤波为代表的基于蒙特卡罗思想的贝叶斯滤波是很重要的一部分。与之前出现的各种非线性滤波器相比，粒子滤波方法的应用面更广，它可以解决很多非线性非高斯问题，同时在粒子总数足够大时，它的收敛速率与状态维数无关，针对高维状态的滤波问题也能很好的收敛。本文针对单通道非线性信号的分离问题，分析研究了相关算法的文献与专著，以粒子滤波为理论基础，针对混沌信号和PCMA(Paired Carrier Multiple Access)信号的去噪、分离等问题，做了一些有意义的研究和探索，论文各章节的内容为：第一章：绪论。首先概述了单通道信号处理在各个领域的应用，然后讨论了单通道多分量混合信号的可分离性，给出了单通道环境下信号分离的基本条件，最后对论文的主要工作与笔者所做的贡献进行了阐述。第二章：贝叶斯滤波。从贝叶斯的迭代估计入手，介绍了线性高斯下的最优解：卡尔曼滤波，回顾了现有的一些非线性滤波算法。针对这些非线性滤波算法的局限性，明确了蒙特卡罗方法的重要意义，最后介绍了蒙特卡罗方法中各种粒子抽样方法。第三章：粒子滤波。针对序贯信号处理问题，简要回顾了粒子滤波从序贯重要性抽样，到重抽样，再到正则化方法的整个发展过程，深入讨论了粒子滤波方法的思想、具体框架，指明了算法中可能存在的问题，并给出了相应的增强算法。第四章：单通道非线性信号的估计。本章主要以混沌信号为代表，讨论了单通道非线性信号的处理问题，根据混合信号数量的不同，分成混沌去噪和混沌分离两类问题讨论。文中分别提出了基于粒子滤波思想的去噪和分离算法。在有无状态噪声，以及状态噪声和观测噪声是否高斯的各种情况下，详细分析了各种重要性函数的选取及性能。在无状态噪声的情况下，研究了退化现象产生的原因并给出了解决方案；在有状态噪声的情况下，根据状态噪声和观测噪声的特性，给出了可以选取最优重要性函数的一般性条件，推导了相应的重要性权重表达式；最后针对混沌系统中存在未知参数的联合估计问题，提出了一种联合估计算法，在参数非时变和时变的情况下，分别利用核平滑和AR建模方法实现了参数的迭代。对于时变情况，在合适的状态空间模型下，采用混合卡尔曼滤波方法实现混沌信号和未知参数的联合估计，取得了更优的性能。第五章：单通道PCMA信号欠定盲分离。对于一般的通信信号，信号的非线性通常是由于复杂信道或者发送接收机制引起的，本章针对非合作环境下单通道PCMA信号的欠定盲分离问题，考虑实际应用中存在的频偏、定时偏差、初始相位等诸多不确定因素，建立了单通道下两路同频混合调制信号基带处理的一般性模型，把盲分离问题转化成了未知参数和信息符号的联合估计问题。根据一般性模型，分析了混合信号间的状态空间差异，利用该状态空间差异提出了一种基于粒子滤波的盲分离算法。在运用粒子滤波算法时，考虑到通信信号状态空间有限的特点，推导出了最优重要性函数的表达式；同时针对模型的卷积特性，在算法中引入平滑处理，缓存更多的接收信息进行状态估计，提高了估计性能。为了充分利用接收信号的信息，提出了一种利用多倍过采样的粒子滤波盲分离增强算法，极大的提高了分离性能。同时还具体讨论了本章提出的盲分离算法的模糊性，针对真实的卫星数据，采用了两种后处理方法，有效的减少了算法模糊性对分离性能的影响。第六章：结论及展望。最后这一章对论文进行了总结，简要阐述了当前单通道信号分离发展的趋势和面临的问题，总结了笔者所做的工作。