经过几十年的发展语音分离技术已经取得了长足进步,目前深度学习的兴起,极大地推动语音分离技术的进一步发展。本文对单通道情况下语音分离算法进行了研究,即从单个麦克风采集到的混合语音中分离出目标人声语音。本文主要研究利用深度学习技术对语音分离算法进行改进,在对当前语音分离算法的建模思想进行深入分析后,主要发现了两点可以进行改进的地方:第一,在人声和噪声分离场景下,多层感知机在处理语音具有强大的特征提取能力,但一般采用固定有限的上下窗口对语音数据进行建模,不仅增加了输入数据的维度,还忽视了语音的时序相关性关系,对混合语音信号中所包含的特征信息利用不够充分;第二,在分离两人同时发声的混合语音时,目前分离算法大多需要同时追踪到混合语音中的两类语音特征,对于人耳来说其实很难同时听清两个人的语音,与常见的人类听觉认知的方式不同,难以设计出有效的分离模型。本文针对上述问题进行研究,提出了相应的解决方案,主要贡献如下:1.深入研究了语音分离算法的建模方式,对不同神经网络结构特性进行了探讨,提出了一种基于深度循环神经网络的人声和噪声分离算法。在使用复合神经网络的基础上,设计实现了一种基于注意力机制的特征帧拼接策略。通过利用注意力机制来提取上下文相关信息,然后加权求和形成特征帧,并与当前输入串联后作为深度循环神经网络的输入特征。这一方法有效捕获了语音信号上下文的时序关联。此外,在模型中还添加了额外的掩膜层对深度循环神经网络的输出施加了约束,提高了估计语音的准确性。通过设计对比实验,验证了模型的有效性,同时发现该算法在未知噪声环境下的性能与对比实验相比具有更强的鲁棒性。2.从听觉感知理论角度着手,针对多说话人场景,设计出了一种具有较强灵活性的说话人信息提取机制,提出了一种基于多层注意力机制的多人语音分离算法。在该模型中引入说话人信息生成声纹特征,并设计多层迭代机制,利用注意力机制将声纹特征与混合语音特征进行相似度计算,得到目标人声的更加清晰的分离语音。实验结果表明,所提出的算法对相对于非特定说话人分离具有更高的分离性能,与相关工作相比在多个语音指标均有普遍提高,并且在更复杂的多人语音混合环境中具有更优异的效果。