实体关系抽取作为信息抽取技术的一个重要子任务,其研究成果对自然语言处理的许多领域提供了必要的技术支持,具有重要的研究意义与应用价值。随着深度学习的不断发展,实体关系抽取过程不再需要人工构建特征,而是通过神经网络模型自动从数据集中提取特征。然而由于人工标注的繁琐昂贵而无法获得大量的实体关系标注数据集,因此,我们很难从稀疏的数据中学习到有效的实体关系特征。另一方面,大部分的实体关系抽取方法都依赖于在模型中加入Word Net和词性标签等外部资源特征,这些特征的准确度和有效性很大程度上决定了模型算法的上限。针对以上问题,本文以提升实体关系抽取模型在稀疏数据中的特征表示能力,并减弱对外部资源特征的依赖为目的,提出了对应的解决方法。主要的研究内容和和创新点如下:(1)构建了融合预训练语言模型BERT的实体关系抽取框架作为基准模型。该模型无需输入任何特征,直接将句子作为输入序列,并通过已经在大规模数据集上训练好的BERT模型获取具有深层语义信息的向量表示。(2)在此基础上,提出了融合预训练语言模型BERT和注意力机制的双向门控循环单元网络模型(BERT-Att-Bi-GRU)。将BERT模型获取到的具有深层语义信息的句子表示输入到双向门控循环单元(Bi-GRU)网络中,以进一步获取更高层次语义特征。并在Bi-GRU后加入注意力机制,以获取更多对关系预测有用的特征。另一方面,提出了融合预训练语言模型BERT和最大池化的双向门控循环单元网络模型(BERT-Max Pooling-Bi-GRU),与BERT-Att-Bi-GRU模型不同的是,利用最大池化操作对Bi-GRU输出的特征进行选择,以此获取句子的全局语义特征。实验结果表明,上述两个模型的性能都超越了基准模型,充分证明了将BERT预训练语言模型融合到基于双向门控循环单元网络架构的可行性与有效性。(3)提出了一种融合知识表示的实体关系抽取方法。该方法充分利用稀疏数据中的知识三元组信息,采用知识表示学习方法获取句子中具有隐含语义特征的关系表示。并最终建立了对关系表示与从文本信息中获取的句子表示的联合学习。实验结果表明,相比与以往只利用文本信息的方法,本文提出的方法更具有优势。实验结果表明,本文提出的融合预训练语言模型和融合知识表示的两种实体关系抽取方法都有效提升了其模型的特征表示能力。特别地,本文提出的融合预训练语言模型的方法在不加入任何额外特征的情况下,与以往基于神经网络模型的方法相比表现出级优的性能,充分证明了该方法的优越性。