近十年来，盲信号处理成为信号处理领域的一个研究热点，其理论也不断地深入和完善，盲源分离作为盲信号处理的一个分支，已成功用于地震勘探、移动通信、图像增强、语音信号处理和阵列信号处理及生物医学工程。随着技术的发展与进步，非平稳信号盲源分离方面的研究更是盲源分离研究的热点，因为该问题的解决有着重要的理论意义和使用价值。本文所做的主要工作如下：(1)分析了盲源分离的来源和国内外研究的进展情况，阐述了盲源分离的基本原理，并讨论了常见的盲源分离的三种数学模型和算法好坏的衡量方法。(2)分析了非平稳信号的可分离性及分离条件和分离结构，分析了非平稳信号盲源分离的典型算法。(3)以极大似然估计为准则，推导了一个非平稳信号分离的代价函数。从非平稳性出发，基于自然梯度算法推导了非平稳信号的自适应盲源分离算法。并将其扩展到卷积混合的情况，简化了计算过程，减少了计算量。同时利用非平稳信号短时平稳的特点，推导了非平稳信号盲源分离的Infomax(基于负熵最大化)算法，对上述算法都进行了计算机仿真和详细地分析。(4)针对盲源分离算法依赖于非线性函数选择的问题，以及易陷入局部最优解的缺点，提出基于免疫算法的盲源分离，从整体搜索开始，寻找最优解，克服了以上缺点，但缺点是速度慢。(5)初步探讨了盲源分离在数字通信中的应用，并对该算法进行了计算机仿真分析。指出了盲源分离目前存在的不足及今后发展的方向。