盲信号分离在众多科学领域,特别是在语音信号分离与识别、生物信号(如脑电图、心电图)处理、无线通信系统等领域,有着极其广泛的应用。实际上,由于其重要的理论价值和广泛的应用前景,盲信号分离已经成为当前信号处理领域最热门的新技术之一。经过大量学者的不懈努力,盲信号分离已经在多个方面得到深入的研究和发展,并涌现了大量优秀的盲分离算法。然而,盲分离仍然存在一些关键理论与实际问题需要解决。本博士论文针对这些问题展开研究,主要作出了如下创新性工作:1.改进和推广了著名的盲分离几何算法——最小值域方法。盲分离几何算法能够为盲分离提供可视化的解释和分离过程。其中,最小值域方法有比较严格的理论基础,且对观测信号的个数没有限制。然而,其分离算法的可靠性和效率都存在不足。通过利用凸包的一些优秀性质,本文提出的改进算法效率更高,可靠性更好。另外,本文把最小值域算法推广到最大值域方法,从而扩展了这类几何算法的应用范围。2.首次对对角化器的条件数展开深入研究。联合对角化是解决盲分离的最重要工具之一,然而已有算法不能从根本上避免病态解。我们深入分析了联合对角化出现病态解的根本原因,首次把联合对角化问题建模成一个双目标优化模型。在此基础上,我们设计了具有较好条件数的联合对角化算法。该算法给出的对角化器,在最小化对角化误差的同时,还拥有尽可能小的条件数。从而彻底避免了平凡解、不平衡解和退化解。实际上,算法能够给出所给模型Pareto意义下的最优解。此外,该算法对需要对角化的矩阵束几乎没有任何要求。我们也简单讨论了算法的收敛性以及可辨识性。最后,我们还发展了可应用于在线盲分离的联合对角化算法,从而改变了联合对角化算法只适合盲分离批处理算法的现状。实际上,该算法也可以作为一个独立的联合对角化算法,尽管该算法对矩阵束有一些轻微的约束。3.为时间预测度/方差比方法建立了完整的可分性理论。我们的结果表明源信号在方差比意义下可分当且仅当源信号具有不同的时序结构(即各阶时滞自相关系数),于是,方差比方法的有效性和应用范围得到澄清。该理论还揭示了方差比方法与慢特征提取、二阶统计量方法的内在联系。算法方面,我们将联合对角化技术引入到方差比方法,并且给出了不依赖于源信号的评价指标。最后,我们用数值仿真验证了理论结果的正确性。经过这些努力,方差比方法的可用性和可靠性得到显著增强。4.提出了在未知源信号数目的情况下估计混叠矩阵的算法。通过一非线性投影,该算法的目标函数的最大值刚好对应混叠矩阵的一列。于是,通过估计目标函数的最大值以及随后的列屏蔽操作,混叠矩阵被逐列估计。因此该算法无须知道源信号的数目(即混叠矩阵的列数)。由于列屏蔽操作会导致大量无用的局部极大值,我们引入粒子群算法优化目标函数。仿真比较结果表明了算法的有效性,特别是在源信号数目未知和源信号不是特别稀疏的情况。5.提出了基于最小体积约束的非负矩阵分解算法。非负矩阵分解是分离相关源信号的最有力工具之一。我们提出的算法在弱稀疏条件下也能得到理想的结果。我们从理论上分析了非负矩阵分解与稀疏性、最小体积之间的内在联系,解释了模型的合理性和正确性。并提出了两个算法优化目标函数。第一个算法在处理较小规模数据集时非常有效,而第二个算法则更适合处理大数据集问题。仿真表明,我们的算法不仅可以分离一些高度相关的源信号,而且可以显著提高非负矩阵分解学习部分的能力,从而具有非常广泛的用途。总的说来,本文主要研究了盲分离的线性瞬时模型的相关理论和算法,特别地,对方差比分离方法和应用广泛的联合对角化问题进行了深入的研究。