伴随着互联网的快速发展,非结构化的文本数据快速增长,如何高效精准地定位关键词,成为了我们探索的一个重要科研方向。作为信息抽取的主要研究方向,关系抽取正在知识图谱、网页搜索等方面发挥着巨大的作用。得益于启发式的远程监督方法,远程监督关系抽取可以在无需人工帮助的情况下自动识别实体对关系。随着机器学习和深度学习的快速发展,关系抽取利用卷积神经网络提高了预测的准确率。尽管如此,现有的模型依然存在以下问题:卷积神经网络可以抽取到文本单词近距离的信息,却无法获取上下文中的长距离依赖信息;Transformer可以有效地整合全局语义信息和本地语义信息,但忽视了和上下文中平均语义之间的关系;即使不同的实体拥有相同的类型,模型应该使用不同的权重表示实体类型,强调重要的类型对当前实体的贡献。针对如上提出的不足之处,本文贡献了以下创新点:（1）提出了将线性衰减实体和门控Transformer相整合的模型该模型除了使用传统的词向量和位置向量作为输入向量,还为每个单词添加了线性衰减向量,使得每个输入向量在考虑词/位置向量的同时,兼顾了每个单词和实体对之间线性衰减关系,而线性衰减关系则和单词与实体对之间的距离成负相关。在使用Transformer有效地结合全局和本地语义关系的同时,引入了门控的概念,使得Transformer也注重了平均语义信息。本模型使用句子层级和包层级的注意力机制,自动地降低了错误数据对模型准确率的影响。在通用数据集上的实验结果表明,该模型可以较好地进行关系分类,精确率和AUC值优于大多数使用Transformer的模型。（2）提出了基于动态权重的实体类型模型该模型引入了额外的先验知识,通过动态权重的注意力机制,提取出每个实体独一无二的特征向量。实体的类型可以有效地缩小关系抽取结果的范围,但是平等地对待每一种类型并不能发挥实体类型的最大效果。该模型使用注意力机制,动态地计算每个类型权重,得到每个实体对应的类型特征向量。根据实验结果,我们可以得出:基于动态权重的实体类型可以进一步提升模型的AUC值。