单通道盲分离是盲信号处理的重要分支,作为统计处理、人工神经网络以及信息论等多门学科结合的产物,具有重要的理论研究和实用价值。在众多盲分离算法中,粒子滤波突破了传统方法的种种限制条件,成为解决盲分离问题的一种新方法。本文在粒子滤波的框架下讨论了非线性信号的盲分离问题,在混合信号的去噪、分离以及未知系统参数和状态联合估计方面做了研究和探讨,最后提出了一种基于粒子滤波改进策略的盲分离算法。本文的主要研究内容可概括为：1、详细描述了粒子滤波算法的基本原理和算法流程,同时介绍了粒子滤波的发展现状以及应用领域。针对粒子滤波中存在的问题,给出了两种增强算法：正则化粒子滤波(RPF)和加入了马尔科夫链蒙特卡罗的粒子滤波(PF-MCMC),通过仿真结果的分析和比较,综合考虑估计精确度和计算复杂度,PF-MCMC的性能最佳。2、在粒子滤波的框架下,讨论了非线性混合信号的估计问题。根据混合信号的个数,分别讨论了去噪和分离问题,论文分析了重要性函数的选取并推导了重要性权重的表达式。在系统存在未知参数的情况下,提出了一种基于粒子滤波改进策略的联合估计算法,采用核平滑收缩技术,并利用贝塔分布代替传统的高斯核分布,实现了参数迭代,最终完成了系统参数和混合信号的联合估计。3、提出了一种单通道信号盲分离算法。在系统参数和混合信号的联合估计算法的基础上,利用通信系统的未知参数建立AR模型,把盲分离问题转化为未知系统参数和信息符号的联合估计问题。仿真实验表明,本文算法在高斯噪声和非高斯噪声的环境下都能取得良好的盲分离效果。