近年来,自然语言处理(NLP)在人工智能领域发展的非常迅速,成为了计算机科学领域和人工智能产业发展中的一个重要方向。自然语言处理的研究目标主要是希望使人类和计算机之间能自如的利用自然语言进行交流通信。现代常用的面向NLP的算法是基于机器学习,特别是统计机器学习。而近来,深度学习方法在自然语言处理中占绝对主流。面向语义蕴含关系推论问题的深度学习研究和面向阅读理解问题的深度学习研究是深度学习在自然语言处理应用中的热点研究。本文针对自然语言处理中的语义蕴含关系推论问题,提出了基于语义丢弃和语义融合的深度学习模型。在语义蕴含关系推论这项工作中,我们首先观察发现了两个问题:1)句子片段中额外/干扰的语义信息会对问题最后的正确判断产生消极的影响;2)局部推论信息的重要性不是平等的,需要合理的聚合这些局部推论信息。基于这两个观察结果,本文设计了一个语义丢弃网络(SDN)可以自主的丢弃语义中的一些干扰信息,一个语义对齐融合的方法(SFA)可以有效的融合各个局部推论结果。并基于这两个创新的设计提出了一个新的语义蕴含关系推论模型,SDF-NN模型,提高了语义蕴含关系推论问题的关系判定的准确率。针对完形填空类型的阅读理解问题,本文提出了基于语义修正机制的深度学习模型。在阅读理解这项工作中,首先分析了以往基于注意力机制和基于推理机制的模型,在这些研究中,发现逐步加深了网络结构的层次,可以使模型能够像人类一样具有推理思考的能力。虽然模型可以通过网络结构层次的加深提取到更多的信息特征,但是深层次的网络也会带来负面影响。网络层次越深就对原始信息的记忆就越弱。这样随着网络层次的加深,注意力关注的重点就可能发生偏差,从而输出错误的答案。所以针对这个问题,本文提出了一种记忆修正机制,在网络的迭代推理过程中加入全局记忆信息。并提出了基于记忆修正的完型填空式阅读理解的深度学习模型mGA Reader。在网络迭代学习的过程中,每层编码都融合原始的文档信息来修正注意力,防止发生大幅度的注意力偏差,最终输出答案。在面向阅读理解问题中,该模型提高了输出正确答案的准确率,验证了记忆修正机制的有效性。