信号分离目前已经成为声信号处理、通信、光信号处理等领域近年来研究的热点问题,并且有着广泛的应用前景,比如超声探伤检测技术以及超奈奎斯特(Faster Than Nyquist,FTN)通信技术。超声探伤检测由于其无损、实现简单等特点广泛应用于工业和医疗领域,但在实际带宽有限情况下超声回波往往会产生混叠而影响检测结果,因此,提高检测回波的时间分辨率是超声探伤检测的关键。另一方面,FTN通信技术以更快的速率传输信息来提高频谱利用率,满足了现代移动通信中越来越高的频带需求并得到广泛关注,但以FTN速率传输往往伴随着码间干扰,在波形上表现为严重混叠。然而目前应用于这两种混叠信号处理的方法大都复杂度高、对参数敏感、稳定性低,难有显著性的效果。针对以上问题,本文创新性地引入循环神经网络(Recurrent Neural Network,RNN)分别研究了针对这两类混叠信号解义的方法。首先,针对传统应用于解决混叠回波的算法中过度依赖字典设计、参数敏感、检测速度慢、无法分离严重混叠波的问题,提出了基于RNN的高分辨率超声回波检测方法。基于两阶段(Two-stage)的思想构建混叠超声回波检测网络,包括分类和回归两部分。首先利用多对多结构的RNN建立一个分类模块检测相应位置是否为回波,即将混叠回波信号按一定时间步长划分为序列进行二分类。然后,将分类的结果与原输入序列结合挑出所有分类为是回波的序列输入一个RNN回归模块预测出相应位置回波的幅值,至此完成了混叠超声回波信号中回波幅值和位置的检测。所提方法借鉴Two-stage的思路先通过分类过滤了大量干扰信号再进行幅值预测,获得了高精度的检测结果,并在较大混叠程度下表现优秀,实现了高分辨率的超声回波检测,同时大幅度提高了检测速度。其次,根据RNN处理时序数据的优势及在混叠超声回波检测上的成功应用,本文创新性地引入双向长短期记忆网络(Bidirectional Long Short Term Memory BLSTM)解决FTN接收信号的解码问题。针对FTN发送信号引入码间干扰的特点,利用BLSTM同时具有“长期”和“短期”记忆的能力以及双向循环结合了前后时刻信息的优势,提出一种基于BLSTM的FTN解码网络。在数据传输率比极限Nyquist速率提高1倍的情况下仍旧保证了系统在不同信噪比下的一定误码率性能,即码元脉冲波幅值检测性能。并引入幅度调制进一步探索所提方法的解码能力。实验结果证明所提方法针对FTN接收信号有良好的解码能力,这也为FTN解码的相关研究提供了一种新思路。综上所述,本文借助RNN对时序数据处理的独特优势,针对混叠超声回波检测以及FTN接收信号解码这两个任务各自的特点,分别基于合适的RNN提出相应混叠信号解义方法,并都取得了不错效果。