基于自注意力机制的兴趣点推荐轻量化算法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:hsxy8848
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习技术的快速发展为推荐算法提供了新的方法,随着用户签到数据的积累,兴趣点推荐在近些年来逐渐被研究人员关注,而在一些对实时性有要求或者需要在移动设备完成兴趣点推荐的场景中,存在兴趣点推荐轻量化算法的需求。现实世界中人类的活动存在着一定的行为规律,而历史签到记录中包含着对人类行为规律建模的信息,本文针对兴趣点推荐算法及其轻量化进行研究,主要工作和贡献包括:1)提出了一种兴趣点推荐算法。通过相对位置编码对用户签到记录的时间间隔信息建模加强短期表示,提高了算法的精度。使用注意力机制对长期表示建模,并通过实验证明长期表示更重要。设计了一种融合方法将两种用户表示融合,并通过实验证明了该方法的有效性。该算法在Foursquare-Tokyo数据集上预测结果的HR@10相比SASRec算法提升了3.49%,在Gowalla数据集上预测结果的HR@10相比SASRec算法提升了3.50%。2)提出了一种兴趣点推荐轻量化算法,针对本文中提出的模型中参数最多的兴趣点嵌入矩阵进行压缩,得到一个体积更小的模型,并且采用知识蒸馏的方法使得压缩后的模型性能不显著下降。采用张量链式分解的方法对模型中的兴趣点嵌入矩阵进行压缩。提出一个基于文档列表方法的排序蒸馏损失函数,实验结果表明该损失函数有助于提高压缩模型的性能。该算法在Foursquare-Tokyo数据集上预测结果的HR@10为38.67%,相比SASRec算法提升了1.78%,相比轻量化之前模型参数减少约43倍。
其他文献
研究背景:心肌梗死(myocardial infarction,MI)及其引发的并发症成为世界范围内致残和致死的主要原因。MI后心力衰竭和心脏破裂等并发症与不良的心室重塑(ventricular remodeling,VR)息息相关,而心室重塑过程又与炎症反应的激活密不可分。巨噬细胞作为主要的炎症细胞之一,参与MI后炎症反应,发挥促炎和抑炎作用,介导MI后心脏的损伤与修复。替米沙坦(telmisa
学位
随着经济的快速发展,产能过剩的问题越来越严重,从而带来的库存成本增加越来越受到企业的重视。对于企业来说,如何降低成本成为企业急需解决的问题。尤其在当今复杂多样的库存分发网络中,高效的库存分配策略对企业降低库存成本起到至关重要的作用。针对上述描述的情况,本文结合企业面临不同客户需求的实际情况,分析双渠道库存分配下的库存体系,以提升企业预期收益为目标,在当前传统库存分配策略的基础之上,探究更合适的库存
学位
随着海上贸易的兴起,全球造船业走向了蓬勃发展的时代。我国目前虽然在造船数量上存在优势,但船舶工业整体技术水平尤其是高精尖技术处于劣势。在船舶应用技术领域,船舶机电舱信号采集系统处于核心地位,中国在该领域的研究与国外存在较大差距。本文分析船舶机电舱系统中的信号采集对象,基于分布式控制策略进行船舶机电舱信号采集系统的设计与实现。本文首先将船舶机电舱系统的信号采集对象进行分类以完成需求分析,设计船舶机电
学位
目的:探讨在缺血性脑卒中后通过社会隔离介导脑卒中后抑郁(post-stroke depression,PSD)之后,(R,S)-氯胺酮在神经再生和功能恢复中的作用及其潜在机制。此外,还研究了心房钠尿肽(atrial natriuretic peptide,ANP)和PSD之间的内在相互作用,以及ANP在(R,S)-氯胺酮对中风后神经再生和功能恢复中的影响。方法:1、左大脑中动脉栓塞(middle
学位
绝大多数生物遗传的基础是基因组DNA。目前研究发现,表观遗传信息也可以传递给后代。内外环境会影响表观遗传的机制。表观遗传的调控机制包括DNA甲基化、组蛋白甲基化等。组蛋白甲基化修饰在多种疾病发生中发挥重要作用,比如MLL-融合性白血病。MLL-融合性白血病多见于婴幼儿白血病和成人急性髓系细胞白血病(AML)以及急性淋巴细胞白血病(ALL)。在MLL融合性白血病中,MLL基因常与其他基因融合诱导嵌合
学位
中国风景园林发展历史悠久具有深厚的理论底蕴。在风景园林学科与行业快速发展的时代背景下,现代风景园林规划设计理念与方法不断发展、更迭,各种理论研讨繁盛而丰富,却尚未形成体系化的建构,学界对风景园林学科的认知基础研究尚未完善,理论系统尚未明晰。同时风景园林学科被认可具有广泛性、复杂性、丰富性,学科涵盖的领域也在不断拓宽,教材作为学科教育发展的基础之一,承载并反映了学科的知识生产及其演进机制。本文即从教
学位
电子政务是现代政府机关提供政务服务的一种新型模式,它将传统的办事大厅面对面办理事项的模式转变为线上为主线下为辅的简便的服务模式,依托现代新兴的信息化技术,将政务办事流程重构改造,简化繁琐的办事流程,减少冗余的材料提交,大大提高了政务办事的效率。用户无需多次往返办事大厅,无需多处奔波,通过手机、电脑等信息化终端即可预约、申办事项。一窗综办、一站式办理等电子政务类平台,都是电子政务应用场景的实现。电子
学位
研究目的原发性肝癌是全球范围内多发性的恶性肿瘤之一,其所造成的死亡率在我国位居第二位,晚期肝癌是一种较难治愈的癌症,以往缺乏有效的治疗手段,传统的系统性化疗效果不佳,而且患者逐渐产生了耐药性,为了进一步治疗肝癌,迫切需要找到新的治疗靶点。KDM1A是第一个被发现的赖氨酸去甲基化酶,它通过去除底物的甲基化修饰对底物实现调控,以往的研究中发现它与BCL2的表达呈相关性。FKBP8作为FKBP家族的肽脯
学位
当前,我们国家正处于素质教育改革的关键时期,这对于学生思维的解放发挥着重要的作用。在基础教育阶段,培养学生的批判性思维倾向是提高学生反思能力,培养学生创造性的有力保障。因此,需要制定一系列方案、政策,培养学生的批判性思维倾向。文章论述了有关批判性思维倾向的研究背景、理论基础和初中阶段培养学生批判性思维倾向的目的及重要价值,梳理了国内外批判性思维倾向的研究现状。以扬州市某中学为例,通过问卷调查了解当
学位
海航进出口有限公司成立于2016年,地址位于海南省海口市,公司前身为海南海航航空进出口有限公司,主要业务是为海航集团及其下属成员企业飞机、航材等进出口业务提供报关代理服务,同时公司作为集团采购管理职能部门,负责海航集团通用类物资采购业务,并自主开展航材相关自营贸易业务,进出口贸易等相关业务。2016年根据海航集团整体战略布局设计,海南海航航空进出口有限公司被壳化,同时成立海航进出口有限公司继续承接
学位