基于深度学习的法律文本分类技术研究

来源 :华北电力大学(北京) | 被引量 : 0次 | 上传用户:oishiocean
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来司法人工智能成为了自然语言处理领域研究的热点。在目前检察院的控告申诉业务中,将案件分流到不同检察职能部门处理是核心任务之一。但由于控申业务类型复杂、数据存在多源异构和不平衡性以及严重依赖人工鉴别等原因导致控申案件分流工作繁重低效。为此提出了类别不均衡小样本控申文本分类方法,以智能辅助控申案件分流业务。首先面向检察实务提出一套信访信件自动化智能化处理套件,对信访信件扫描PDF文档进行图像提取、图像校正增强和高质量光学字符识别,并通过TextRank算法和Word2Vec模型摘要和关键词提取进行文本特征提取,构建其BERT文本向量表示。其次,提出了基于虚拟对抗技术和Focal Loss函数的类别不均衡小样本控申文本分类方法,针对信访信件数量偏少且存在对抗样本的情况在模型训练时引入虚拟对抗技术进行优化,同时在采用分层抽样方法提高数据集质量基础上在训练中引入Focal Loss进行优化以处理数据不平衡问题。最后针对设备资源有限的问题,通过目标蒸馏法将模型蒸馏到TextCNN模型中,实现模型压缩。基于实际控申数据实验结果显示,本文分类模型在控申司法文本上具有很好的分类性能,其F1值达到85.272%,相对于基准BERT模型F1值有约15%的提高。而知识蒸馏的效果明显,模型大小缩小为原模型的1/50,占用内存缩小为1/10,F1值为82.395%。
其他文献
目的探讨直径≤3cm非小细胞肺癌淋巴结转移的规律及其相关危险因素,评估非小细胞肺癌淋巴结转移的风险,为淋巴结清扫范围及方式提供临床和理论依据。方法收集本院胸外科自2010年1月至2020年11月期间行手术治疗的706例直径≤3cm非小细胞肺癌患者的临床数据,其术前均由患者或家属签署手术同意书,符合医学伦理道德标准,所有纳入的肺癌患者,手术方式为肺叶切除或肺段切除,淋巴结处理方式为系统性淋巴结清扫术
学位
正则半群是半群理论中最精彩的部分,其研究得到广泛关注。完全正则半群作为群并半群,是正则半群的重要子类;广义群(generalized group)作为一类完全正则半群,是与群最接近的一类半群;作为正则性的推广,Clifford和Preston提出了左(右)正则半群的概念,它们与正则半群密切相关。本文借鉴正则半群、左(右)正则半群的研究思想,提出了一些新的正则性条件(统称为换位正则性),分析了各类换
学位
目的:观察MARCH1对CRC细胞恶性生物学现象的影响并探讨其分子机制;探索MARCH1是否参与5-氟尿嘧啶(5-fluorouracil,5-FU)的抗癌活性。方法:1、采用免疫组织化学染色(immunohistochemistry,IHC)、实时荧光定量PCR(real-time quantitative PCR,RT-qPCR)、蛋白质印迹(western blot)的方法检测CRC肿瘤组织
学位
目的:糖尿病(Diabetic mellitus,DM)是一种慢性代谢性非传染性疾病。在世界范围内已成为流行病。糖尿病患者还将伴有代谢紊乱,例如血糖,血脂和电解质紊乱。糖尿病视网膜病变是糖尿病的微血管并发症,会对视力造成永久性损害,其主要特征是血管增生严重。血管内皮生长因子家族(vascular endothelial growth factor,VEGF)是在微血管疾病发生和发展中发挥重要作用的
学位
党费是政党运行的重要经济资源,政党成员交纳党费是政党政治时代的普遍现象。中国共产党自成立以来就始终重视党费管理,如今更是将其作为党组织开展党务工作和加强党员教育管理的经常性任务和重要内容,其管理水平对于推进全面从严治党和加强党的建设这一伟大工程具有重要影响。本文在梳理和借鉴学术界既有研究成果的基础上,以中国共产党党费管理的基础理论为铺垫,以厘清改革开放以来中国共产党党费管理的历史演变及基本经验为研
学位
中国共产党推进党史教育的历史逻辑,主要是对党中央和党的主要领导人推动党史教育发展的历史演进的梳理及内在理路的概括,其中包含了党推进党史教育发展的历史脉络,推进党史教育的规律性要求,党史教育发展历程与当下不断深化推进党史教育开展的内在联系,这也是本文关于中国共产党推进党史教育“历史逻辑”的三重主要内涵。在当下开展党史教育更要重点强调开展的深度与广度,更充分发挥党史育人、资政的作用。本研究坚持以马克思
学位
面对全球汽车行业的蓬勃发展,以及全球汽车零部件生产商的迅猛增加,汽车零部件企业间的竞争愈演愈烈,竞争领域涉及产品价格,产品质量等多方位;并且随着全球自然灾害的频发,以及疫情的爆发和延续,出现诸多关键原材料的短缺,零部件工厂停产现象频发;国际国内的环境影响也是不可忽略的,众所周知的芯片短缺,严重影响了汽车行业;再有汽车市场面临的行业转型从燃油发动机到电动发动机,无处不影响着燃油发动机相关的零部件企业
学位
近年来,随着国际经济贸易摩擦加剧,国际经济形势动荡不安,作为拉动经济增长的“三驾马车”,投资和出口的重要性在逐渐下降,消费的地位越来越凸显。中共十八大报告中明确指出,要牢牢抓紧扩大内需的基本点,建立扩大内需的长效机制,释放居民的消费潜力,从而保证经济高质量发展。消费是扩大内需最重要的基本点,居民消费占据最终消费的绝大部分,研究居民消费对提升我国消费水平,带动经济发展有很大助力。税收是调节我国消费、
学位
我国的改革开放程度逐渐深化,取得了瞩目的成绩,然而,在经济发展与生态环境保护关系的处理上却面临着许多难题。以消耗资源或环境为代价来推动经济的发展。以“先污染,后治理”、“边污染、边治理”为发展原则造成了我国大量资源被浪费,资源消耗、生态破坏以及环境污染问题愈发严峻。环境事件的频繁发生成为了社会群众讨论的热点。而我国要想改善现有的环境,一方面要做好末端治理,另一方面还应该做好金融资源的合理配置,让金
学位
“冰上丝绸之路”是中俄两国领导人提出的经济发展倡议。“冰上丝绸之路”建设分为三条路线:东北航道、西北航道和中央航道。目前“冰上丝绸之路”建设主线为依托俄罗斯北方海航道的东北航道。“冰上丝绸之路”建设的推进将促进一带一路倡议与俄罗斯亚欧经济联盟的对接,促进俄罗斯北极地区油气资源的开发,提升中国能源安全,密切两国经济联系,对于中国和俄罗斯具有重要的现实意义和战略意义。本论文基于哈尔福德·麦金德的陆权论
学位