在复杂的背景环境中所接收的信号往往是由不同信源产生的多路信号的混合。例如:几个麦克同时收到多个人的语音信号;在声纳、阵列及通讯信号处理中,由于耦合使数据混叠;多传感器检测生物电信号中也是多个未知信号的混合。从混合信号中提取出某一信号是信号处理领域的一个传统的课题。但如果我们对信号的混合方式缺乏了解,信源的分离问题则变成一个难题,即盲源分离(blind source separation,BSS)问题。目前,BSS问题已成为信号处理学界和神经网络学界共同感兴趣的研究热点领域,并获得了迅速的发展。BSS的基本含义就是在对信源和混合方式等先验知识特别少的情况下,仅由观测到的混合信号来推测或者恢复原始信号。但是许多BSS经典算法,如独立分量分析(independent component analysis,ICA)及其扩展算法,都是基于观测信号的数目大于等于源信号数目,即非欠定情况,这一主要假设条件的。一方面这与分离的“盲”性是冲突的;另一方面,在许多实际问题中该条件也是很难满足的。因此研究欠定情况下的BSS问题就更具普遍性了。本文从两个不同方面深入研究了欠定情况下BSS问题的解决办法。其一,研究经典的盲源分离算法,主要利用了成熟的ICA算法,通过经验模式分解(empirical modeldecomposition,EMD)来构造参考信号使之满足非欠定条件,在此基础上建立了一个新的算法结构模型,并将其成功地应用于诱发电位(evoked potential,EP)的单路少次提取当中。其二,研究稀疏分量分析(sparse component analysis,SCA)算法,利用信号的稀疏分解,克服了非欠定性的要求,发展了一种基于期望最大(expectation maximization,EM)和主分量分析(principal components analysis,PCA)的SCA新算法,并实现了欠定情况下语音信号的盲分离。通过实验仿真证明了从两个不同方面都可以解决欠定情况下的BSS难题,并在实际中有着广泛的应用空间。另外,本文还尝试性的研究了非负矩阵分解(non-negative matrix factorization,NMF)及其在盲源分离问题中的应用。