【摘 要】
：
构建三元组时在文本句子中抽取多个三元组的研究较少,且大多基于英文语境,为此提出了一种基于B E RT的中文多关系抽取模型BCMRE,它由关系分类与元素抽取两个任务模型串联组成.BCMRE通过关系分类任务预测出可能包含的关系,将预测关系编码融合到词向量中,对每一种关系复制出一个实例,再输入到元素抽取任务通过命名实体识别预测三元组.BCMRE针对两项任务的特点加入不同前置模型;设计词向量优化BERT处理中文时以字为单位的缺点;设计不同的损失函数使模型效果更好;利用B E RT的多头与自注意力机制充分提取特征完
【机 构】
：
重庆邮电大学 计算机科学与技术学院,重庆 400065
论文部分内容阅读
构建三元组时在文本句子中抽取多个三元组的研究较少,且大多基于英文语境,为此提出了一种基于B E RT的中文多关系抽取模型BCMRE,它由关系分类与元素抽取两个任务模型串联组成.BCMRE通过关系分类任务预测出可能包含的关系,将预测关系编码融合到词向量中,对每一种关系复制出一个实例,再输入到元素抽取任务通过命名实体识别预测三元组.BCMRE针对两项任务的特点加入不同前置模型;设计词向量优化BERT处理中文时以字为单位的缺点;设计不同的损失函数使模型效果更好;利用B E RT的多头与自注意力机制充分提取特征完成三元组的抽取.BCMRE通过实验与其他模型,以及更换不同的前置模型进行对比,在F1的评估下取得了相对较好的结果,证明了模型可以有效性提高抽取多关系三元组的效果.
其他文献
为了解决传统深度强化学习在室内未知环境下移动机器人路径规划中存在探索能力差和环境状态空间奖励稀疏的问题,提出了一种基于深度图像信息的改进深度强化学习算法.利用Kinect视觉传感器直接获取的深度图像信息和目标位置信息作为网络的输入,以机器人的线速度和角速度作为下一步动作指令的输出.设计了改进的奖惩函数,提高了算法的奖励值,优化了状态空间,在一定程度上缓解了奖励稀疏的问题.仿真结果表明,改进算法提高了机器人的探索能力,优化了路径轨迹,使机器人有效地避开了障碍物,规划出更短的路径,简单环境下比DQN算法的平均
针对矿石输送带上夹杂的废旧木头、钢钎、塑料导爆管等杂物会对后续选矿设备造成严重破环的问题,提出一种改进YOLOv3的矿石输送带杂物检测方法 YOLO-Ore。将轻量级网络Mobilenetv2作为主干特征提取网络,利用深度可分离卷积和逆残差结构,缩减了模型容量,丰富了特征信息;将语义分割网络PSPnet中的金字塔池化模块PPM融入到特征提取过程当中,有效聚合不同尺度的上下文信息;引入注意力机制CB
为激励企业实施碳减排,考虑3种碳减排税收政策:统一碳排放税收政策、累进排放税政策和政府管控排放标准税收政策,构建由多个制造商和多个需求市场构成的供应链网络,分别量化不同碳税政策下制造商应支付的碳税,构建不同政策下供应链网络内不同成员企业的决策模型及均衡条件,进而提出不同碳税政策下供应链网络均衡模型,最后给出欧拉求解算法,并提出算例,一方面,分别分析不同碳税政策下税率对供应链网络成员企业间产品交易量、减排决策、碳税和利润均衡结果的影响;另一方面,将3种政策放在同一比较框架内,对比三种碳税政策对企业生产及减排
基于时序数据建模的长短时神经网络(LSTM)可用于预测类问题.现实场景中,LSTM预测精度往往与输入序列长度相关,有效的历史信息会被新输入的数据淹没.针对此问题,提出在LSTM节点中构建强化门实现对遗忘信息的提取,并与记忆信息按比例选取、融合、输入记忆单元,增加学习过程中的梯度传导能力,使网络对相对较远的信息保持敏感以提升记忆能力.实验采用工业故障数据,当序列长度超过100时,具有强化门机制的改进模型预测误差低于其他LSTM模型.预测精度的差距随序列增加而增大,当序列长度增至200时,改进模型的预测误差(
近年来,由于互联网的高速发展和大数据时代的来临,人工智能随之大热,而推动人工智能迅猛发展的正是深度学习的崛起.大数据时代需要迫切解决的问题是如何将极为复杂繁多的数据进行有效的分析使用,进而充分挖掘利用数据的价值并造福人类.深度学习作为一种实现机器学习的技术,正是解决这一问题的重要法宝,它在处理数据过程中发挥着重要作用并且改变了传统的机器学习方法,已被广泛应用于语音识别、图像识别和自然语言处理等研究领域.如何有效加速深度学习的计算能力一直是科研研究的重点.FPGA凭借其强大的并行计算能力和低功耗等优势成为G
概率计算(逻辑)是一种将二进制转换为概率编码的数字脉冲码流的逻辑计算,以计算精度与时延为代价,具有低功耗、高能效的计算优势.阐释了概率计算的基本概念,设计了单通道与多通道的概率计算电路,有效提高了概率计算的速度与精度.基于所提出概率计算电路,设计了概率脉冲神经元,从而实现了神经网络的可重构计算架构——北航筹算.该设计采用KINTEX-7(FPGA)实现,相较于传统二进制阵列乘法器构成的乘加器计算单元,概率计算的逻辑资源开销(LUT)降低80％.在SCNN网络计算实验中,测试运行了LeNet与AlexNet
知识图谱嵌入(KGE)是知识图谱领域一个新的研究热点,旨在利用词向量的平移不变性将知识图谱中实体和关系嵌入到低维向量空间,进而完成知识表示.以解决实际问题的类型为划分依据,首先,阐述了四类主要的知识图谱嵌入方法,包括基于深度学习的方法、基于图形特征的方法、基于翻译模型的方法以及基于其他模型的方法,对每种模型的算法思想进行详细阐述,总结了每种模型的优缺点;其次,从常用数据集、评价指标、算法、实验四方面对知识图谱嵌入算法实验进行分析与归纳,对嵌入方法做了横纵向对比;最后,从解决实际问题的角度出发,给出了知识图
意见领袖是指在消息传播过程中,对大众具有较大的引导力和影响力,直接或间接地影响大众观点的倾向与形成的那些人.社交网络中的意见领袖挖掘在商业营销、政策宣传、舆情监控、社会公共问题等领域有着非常重要的应用价值.首先阐述了意见领袖的起源、定义和分类.随后较为全面地总结了当前的意见领袖挖掘方法,将其归结为四类:基于用户评分规则的方法、基于社交网络图的方法、基于影响传播模型的方法、多维度融合的方法.分别阐述了上述方法的基本思想及其关键技术,分析了各种方法的优缺点.此外,对已有的评价指标进行分析总结,给出了推荐使用的
针对配送服务中开放式带时间窗车辆路径问题,构建了最小化车辆行驶成本的集分割模型,并提出变邻域搜索算法进行求解.该算法包括抖动和邻域搜索两个阶段,其中,抖动阶段通过当前解与种群历史最优、与个体历史最优之间的路径重连来实现,邻域搜索阶段通过同一条路径内以及不同路径间的交换、插入、2-opt三个操作算子来实现.通过与已有文献进行对比,结果表明该算法在求解开放式带时间窗车辆路径问题时,能得到更高质量的解,而且算法的收敛性和稳定性均较好.由此验证了该算法的可行性和有效性.
针对移动机器人在复杂地图环境中移动耗时长、易陷入局部最优等问题,设计了一种基于双向搜索的改进蚁群路径规划算法。基于K-means算法对地图预处理,量化地图的局部复杂度程度,并将局部环境信息融合到状态转移概率函数,使机器人优先选择在复杂程度小的区域进行寻优,减少路径拐点。设定双向搜索规则,改进启发函数,提高算法的局部方向搜索精度和全局搜索效率。针对蚁群算法中蚂蚁遇到U障碍物陷入死锁的问题,提出死锁判