相对非结构化的信息,规则的结构化信息更容易被机器使用。因而,化信息非结构化为结构化的信息抽取技术是一项值得深入研究的工作。关系抽取是一种提取结构化信息的任务,它面向已经被标记好的实体对,依据文本句子特征判定两个实体间的语义关系。近些年来,基于深度神经网络的方法在关系抽取任务中取得了不错的效果。但是,随着神经网络方法的精度不断提升,关系抽取任务消耗的成本也日益增加。为了缓解这一现象,本文将研究的重点放在关系抽取模型轻量化上。轻量级关系抽取方法能为抽取模型瘦身,使关系抽取不再是一项对资源要求较高的任务。本文在设计过程中引入知识蒸馏技术架构,用于提升轻量级关系抽取模型的抽取精度,并尝试在该框架下设计带有余弦相似度的动态损失函数,用于缓解知识蒸馏中教师产生的错误软标签数据的影响。本文的工作分为以下三点:（1）利用余弦相似度设计了一种知识筛选机制,在蒸馏过程中不再直接使用教师产生的软标签数据,而是对该数据的正确程度进行判断。这种机制将能表达事实含义的软标签视为正向软标签,为其分配较高的权重;对于非正向软标签,则被分配较低的权重。噪声过滤后的软标签数据能提供更精准的指导,缓解错误软标签对轻量级关系抽取模型抽取结果产生的负面影响。（2）使用教师-学生知识蒸馏模式构建出一类轻量级关系抽取模型。该框架中共有两种角色:教师与学生。教师向学生输出知识,学生在知识指导下进行训练,同时不断吸收知识提升自己。教师-学生知识蒸馏的机制不但能够在只关注数据本身、不借助其他的外部信息的情况下提升学生模型的抽取能力,并且轻量化的操作不会消耗大量的时间资源。（3）借助教师-助手蒸馏模式设计出一类轻量化关系抽取模型。相较教师-学生知识蒸馏模式,该模型共需进行两次知识蒸馏:第一次的蒸馏以培养教师助手为目的;第二次是在教师助手主导下进行知识传递,由教师助手指导学生进行训练。通过引入助手,教师-助手蒸馏模式避免了教师和学生差距过大造成的学生模型难以模仿教师抽取机制的问题。学生通过匹配知识训练模型的性能,教师助手与教师相比,知识的软化程度更高,能够给学生更有效的指导。针对以上工作,本文选取关系抽取常用的数据集进行实验验证。在Sem Eval-2010 Task 8上验证基于教师-学生模式、基于教师-助手模式模型的效果。实验结果显示,与学生模型相比,轻量化模型没有增加待训练参数量,运行时间上只产生小范围波动。并且对于两种模式使用同一个学生模型构建出的轻量级关系抽取模型来说,轻量化操作后精度分别提高了0.56%和1.47%。结果证明,使用正向软标签的蒸馏机制能够更好地利用知识,本文提出的教师-学生蒸馏框架和教师-助手蒸馏框架是两种构造轻量级关系抽取模型十分有效的方法,能在不增加模型参数、几乎不增加模型消耗时间的前提下提升抽取的精度。通过两种轻量级抽取框架得到的轻量级模型在计算资源有限、时间要求较高的场景中具有强大的竞争优势。这两种框架能够在花费较少计算成本的情况下完成轻量化的转变,有效缓解了关系抽取模型规模日益庞大、抽取效率日趋下降的问题。