【摘 要】
：
使用预训练语言模型基于Transformer的双向编码器（bidirectional encoder representation from transformers, BERT）进行文本分类可以帮助民警快速准确地提取电子数据。针对将输入序列的起始符[CLS]位对应的隐含层表示作为句向量输入到全连接层中进行分类会产生一部分语义信息的丢失从而导致分类准确率下降的问题。提出BERT-CNN-SE模型，
【基金项目】
：
中国人民公安大学公共安全行为科学实验室开放课题（2021SYS07）；
论文部分内容阅读
使用预训练语言模型基于Transformer的双向编码器（bidirectional encoder representation from transformers, BERT）进行文本分类可以帮助民警快速准确地提取电子数据。针对将输入序列的起始符[CLS]位对应的隐含层表示作为句向量输入到全连接层中进行分类会产生一部分语义信息的丢失从而导致分类准确率下降的问题。提出BERT-CNN-SE模型，即在BERT后接一个语义特征提取器以充分利用高层的语义信息，利用不同大小的二维卷积核对BERT输出的隐藏状态进行卷积，然后通过共享权重的挤压和激励（squeeze-and-excitation, SE）模块对通道进行加权，最大池化层后联结起来，最后输入到全连接层进行分类。在自建的涉案对话文本数据集和公开数据集THUCNews上进行测试，改进BERT模型的准确率达到了88.58%和93.64%。结果表明，与BERT基线模型和其他分类模型相比，改进BERT模型具有更好的分类效果。
其他文献
越南属于汉字文化圈，中文教育历史悠久，通过梳理越南中文教学机构、孔子学院、师资队伍、教学资源等内容，发现存在本土师资量少质薄；教材本土特色不突显；课程设置雷同且实践课程欠缺；孔子学院发展成效低；中文线上教学资源缺乏系统性、创新性等问题。为进一步促进越南中文教育发展，本文提出以下思考：加大师资培养力度，培养越南本土高水平中文人才；中越合作开发本土多样化、特色化教材；设置行业汉语课程，增加课外实践；鼓
目的 了解住院人群中氟比洛芬酯相关急性肾损伤的发生率、临床特征和危险因素。方法 依托医疗机构药物不良事件主动监测与智能评估警示系统（ADE-ASAS），回顾性监测解放军总医院2010年12月1日至2020年11月30日所有使用氟比洛芬酯的住院患者，并进行病例对照研究，分析氟比洛芬酯所致急性肾损伤的发生率、临床特征和危险因素。结果 116 097例使用氟比洛芬酯的住院患者中，急性肾损伤阳性病例815
目的观察不同厚度纱布中药湿敷对肝经郁热型蛇串疮皮损的疗效。方法将114例带状疱疹湿敷患者采取随机分组方式,分成3个试验组,分别是试验组1（4层纱布湿敷）、试验组2（8层纱布湿敷）、试验组3（12层纱布湿敷）,2次/d,每次30 min。3组患者均给予皮肤科一般护理和系统药物治疗。各组患者于每日湿敷前、后分别予以症状评分和疗效评价,疗程为7 d。观察疱疹的止疱时间、结痂时间、疼痛程度、患者的满意度及
＜正＞石油化工产业是我国国民经济支柱产业，石油石化企业的党建工作不仅关系到自身的长远发展，而且关系到社会稳定与经济发展，因此，在全面深化改革的大背景下，石油石化企业的党建工作改革也势在必行。笔者就石油石化企业党建工作现状，对如何深化党建工作进行了探讨，以期能对石油石化企业的党建工作有所帮助。石油石化企业党建工作现状党建工作是党的生命线，也是党的政治优势。新时期正是石油石化企业改革发展的关键时期，石
离心式压缩机在运行中各级轴瓦温度上升，通过拆解测量轴与轴瓦间隙、分析各级高速轴振动值、位移进而排除机械故障。根据现场拆解情况，发现高速轴附着固体不溶物，判断为漆膜，并对漆膜的产生进行分析处理，采用离子交换树脂过滤加静电吸附，可对润滑油中的漆膜进行有效处理，解决了关键设备的难点问题，对生产的稳定运行有重要意义。
石油是国家经济发展的命脉，石油工业承担着国家经济社会发展的重要责任，在国家发展建设中起着重要作用，搞好石油企业发展意义重大。而加强石油企业党建工作，是保证石油企业发展方向、促进石油企业快速发展的基础。新时期石油企业面临新政策，为适应新形势，把握新机遇，适应企业发展，本文在概述石油党建工作的基础上，阐明新时期石油企业党建工作创新的意义和方法，为促进石油企业的不断发展提供政治保障。
目的 探讨气流冲击振动与三通负压技术联合应用在PICC堵管溶栓中的有效性。方法 将PICC维护门诊就诊的PICC完全堵塞患者87例，按就诊时间先后分为对照组（36例）和观察组（51例）。对照组采用三通负压技术溶栓；观察组采用气流冲击振动联合三通负压技术溶栓。两组单日持续溶栓最长4 h,不成功者PICC余腔用尿激酶稀释液封管，第2天再进行4 h的溶栓，仍未见效者汇报医生，采取其他处理。比较两组患者单
本文指出了当前企业供应链存在的问题,分析了现行供应链问题的原因,针对客观环境情况并结合企业的实际,提出了解决现行供应链问题的方法与策略。
作物的早期病害检测作为针对性的防治手段已经成为智慧农业在病害方面的趋势，实现作物早期病害检测可以做到早发现，早治疗，减少作物农药使用，提高作物品质，减少经济损失。首先介绍作物病害的机制和红外热成像原理，发现红外热成像技术可以进行作物早期病害的检测；其次介绍红外热成像和机器学习的工作原理，综合概述国内外机器学习和红外热成像技术在病害识别领域的研究现状；分析红外热图像的缺点并使用机器学习进行改进，综述