短文本相似度算法研究及应用

来源 :上海交通大学 | 被引量 : 1次 | 上传用户:rossifish
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的发展,特别是移动互联网的兴起,信息爆炸进一步加剧,同时,信息传播出现了由系统化向碎片化过渡的倾向。短文本泛指规模较小的独立文本,其一般具有数量巨大、内容稀少、高即时性、高时效性、非规范化、无标签和信息分布不平衡中的一个或者多个特征。文本相似度算法研究主要包括文本表示和相似度度量两部分内容,其主要目的在于提供一套完整、可计算、数值化的相似度表征框架,在文本处理相关领域有着很高的理论价值和应用价值。由于传统文本相似度算法无法有效解决短文本相似度度量问题,短文本相似度算法成为新兴的研究热点。在过去十年间,短文本相似度算法研究取得了很大的进展,集中了该领域大部分研究成果。已有短文本相似度算法的研究思路主要集中在校正和扩充短文本内部符号所表达信息的层面,很少考虑短文本之间的关联信息,而且都是使用观察者的视角对相似度进行描述与猜测,并不能直接参与到语言游戏之中。因此,它们在处理非社会化甚至是非自然的语言时,很难取得好的效果。为了解决这一问题,本文在查阅大量文献和分析大量数据的基础上,提出了一种基于群体决策和优化思想的短文本相似度算法框架,并且使用某电视台的广告宣传片描述语料作为实验数据,提出了一种基于该框架的短文本相似度算法和基于该算法的广告匹配算法,同时,以此为基础开发出一套完整的异构数据库广告信息集成软件。具体来说,本文的贡献主要体现在以下方面:1.从解决实际问题所遇到的困难出发,本文提出一种基于文本元扩展的短文本相似度算法框架,该框架将短文本抽象成一个文本元,将多个短文本抽象成一个文本元集合或序列,并使用群体决策和优化思想来考量短文本上下文关系对相似度度量的影响。该框架能够在理论上包容已有的短文本相似度算法,并且文本元间相似度计算的步骤能够较好地保留这些算法已经挖掘的信息。同时,框架能够以改变文本元间相似度度量算法的方式,方便地对自身产生的相似度度量结果进行再利用,便于设计基于反馈信息的迭代相似度算法,从而设计能够真正直接参与到语言游戏中的短文本相似度算法。从系统的角度来说,该框架能够将自身的输出作为输入并获取新的信息,这是已有相似度算法都无法做到的一点,也是使用群体决策的好处之一。此外,该框架也能够同时适用于有序短文本集和无序短文本集的处理。总的来说,该框架体现了若干短文本相似度度量的新思路,可以延伸出一系列新算法,能够在一定程度上解决已有算法未覆盖的问题。2.在该框架研究基础上,本文提出一种基于短文本相似度的广告匹配算法来解决电视台广告宣传片描述语料中存在的语义异构问题。该方法使用广告宣传片描述的字面相似度作为文本元独立相似度,使用文本元序列相似度来表征广告宣传片描述之间的相似性,并使用滑动窗口方式进行广告匹配。在此基础上,本文结合关联分析中的置信度和支持度概念,提出一种应用反馈技术的一阶迭代改进算法,在真实数据集中取得了很好的匹配效果。此外,本文还结合语料特征提出了一种提前过滤候选窗口的加速方法和一种基于文本元决策相似度的匹配思路,展现了基于文本元扩展的短文本相似度算法框架在实际问题中的应用价值。3.在对短文本相似度算法进行研究以及对电视台数据库异构情况进行分析的基础上,本文严格按照软件工程理论设计并实现了基于广告匹配算法的广告智能统合系统软件,有效解决了广告匹配算法在具体应用中面临的难题,很好地完成了异构数据广告信息集成任务。该软件已经在某电视台实际运行,并在该台的广告总收视率评估系统中起着关键作用,有效促进了广告业务中的收视点成本类协议和订单的自动化管理,同时也方便了数据的共享,提高了广告输单效率。
其他文献
舞蹈是一种具有象征意义的文化载体和将生活化作成艺术的符号。它主要包括两个层面的内容:一是外在的形态,包括表现形式、表现手法、形象特征、语言符号、象征意义以及风格、韵味等;二是外在的形态所包含和体现的文化价值和精神价值。萨吾尔登舞蹈是新疆卫拉特蒙古传统的民间舞蹈,它一直活泛的存续在民间。2002年9月巴州歌舞团带着《汗臣萨吾尔登》女子群舞作品,参加了中国首届“成吉思汗杯”,从此萨吾尔登舞蹈被推向了蒙
学位
新课改的目标之一就是培养具有创新精神和发展潜质的学生,而创新精神和发展潜质的重要表现就是发散思维的养成。高中化学作为高中一门重要的课程,不仅在于让学生学习基本的化学知识、更重要的是要培养学生的思维能力,而传统的教学设计模式已经不能满足时代对当今的高中生提出的要求。但是在新课改已经实施很多年的情况下,依然有很多高中化学教师因循守旧,忽视学生的主观能动性,采用“灌输”的方式传授知识。在这种情况下,本研
学位
中国自1978年坚持改革开放以来,GDP一直高速稳健发展,服务经济在国民经济中的比重越来越高。2015年第三产业服务业占GDP的比重首次超过50%。当下,中国空调市场主要多联机品牌
目前导电银浆对于导电材料的应用及研究主要在电子产品方面比较深入,而应用于纺织材料上的工艺参数探究比较少。导电银浆在柔性基材上的应用,有助于智能纺织品开发研究。颗粒
轨道不平顺是引起车辆系统、线路结构振动的主要激励源,高速铁路对轨道的平顺性提出了严苛的要求。我国高速铁路中广泛采用桥梁替代传统路基,并且运营实践证明,在桥梁区段会形成与其结构特点密切相关的轨道不平顺,而当前关于桥上轨道不平顺的研究较少。本文首先通过有限元分析软件建立了CRTSII型桥上无砟轨道结构,利用多体动力学软件建立了CRH2动车、柔性轨道模型,最后,完成车轨桥耦合动力学分析模型的建立。其次,
青年群体是社会群体的重要组成部分,也承担着重要的社会作用,是民族的希望与未来。中国共产党自成立以来就对于青年给予了很大的关注与重视,党始终关心青年的发展情况,积极为青年一代提供良好的发展环境,帮助青年解决他们在成长和发展中遇到的问题,致力于成为与青年共同成长的好伙伴。习近平继承了中国共产党重视青年、关心青年的传统,对青年一代的成长和发展给予了很高的关注度。新时代下,习近平结合当下中国发展的现实情况
客户信息反馈是企业提高经济效益的有效途径。对最新客户反馈的及时搜集和分析,可以及时发现企业的经营机会。企业在进行运营和发展的过程当中及时全面信息客户信息的归集和
足球裁判员作为足球比赛中的重要角色,在一场比赛中是不可或缺的,而在其培养过程中也存在一定的困难,前人在此过程中也运用过许多方法。本文运用实验法,数理统计法,问卷调查法,文献资料法等研究方法进行研究,通过文献资料法查阅前人的有关研究,进行总结评价,通过实验法,开展为期16周的教学实验,采用统一的教学大纲,教学进度进行实验,将两个班的学生分为实验组,对照组进行足球裁判课程教学,对参加教学实验的学生进行