【摘 要】
：
注意力机制逐渐成为目前深度学习领域的主流方法和研究热点之一,它通过改进源语言表达方式,在解码中动态选择源语言相关信息,从而极大改善了经典Encoder-Decoder框架的不足。
【机 构】
：
西安交通大学软件学院社会智能与复杂数据处理实验室,陕西师范大学计算机科学学院
【基金项目】
：
国家自然科学基金(61741208);教育部“云数融合”基金(2017B00030);中央高校基本科研业务费(zdyf2017006);陕西省协同创新计划(2015XT-21);西安市碑林区科技创新计划项目(GX1803);陕西烟草公司科技攻关项目(ST2017-R011);中央高校建设世界一流大学(学科)和特色发展引导专项资金(PY3A022);深圳市科技项目(JCYJ20180306170
论文部分内容阅读
注意力机制逐渐成为目前深度学习领域的主流方法和研究热点之一,它通过改进源语言表达方式,在解码中动态选择源语言相关信息,从而极大改善了经典Encoder-Decoder框架的不足。该文在提出传统基于Encoder-Decoder框架中存在的长程记忆能力有限、序列转化过程中的相互关系、模型动态结构输出质量等问题的基础上,描述了注意力机制的定义和原理,介绍了多种不同的分类方式,分析了目前的研究现状,并叙述了目前注意力机制在图像识别、语音识别和自然语言处理等重要领域的应用情况。同时,进一步从多模态注意力机制、注意
其他文献
农历八月十五“中秋节”，古人把圆月视为团圆的象征，因此，又称“团圆节”。在国人心中，圆月始终是柔和与光明的象征，寄托着人们的美好向往。古往今来，文人常用“月圆月缺”来形容“
管理能力与领导能力之间既有差异,又有相似,两种能力相辅相成,但高层管理界应更加重视领导能力。
阐述社区居民参与的含义及其在乡村旅游开发中的重要作用。社区居民可通过资源产品化、产业多样化、服务专业化等途径参与旅游开发,对旅游社区的发展分担责任、共享成果。以
美国是一个典型的契约社会,物业管理收费自然也离不开合同(契约).美国各地物业管理合同对收费的规定往往要受所在地区、环境、设施和管理方式等的影响,收费标准和收费项目也
在新型农业经营主体快速成长的背景下,必须建立与之相适应的多元化农技推广体系。多元化农技推广体系由政府公益性农技推广机构、社会力量组成的盈利性农技推广机构、高等农
对白茅Imperatacylindria (L )P Bcauv var major (Nees )根炒炭前后进行了止血作用的比较研究。结果表明 :白茅根生品和炭品均能明显缩短小鼠出血时间、凝血时间和血浆复钙
面授课是电大开放教育教学的一个重要环节，但面授课的出勤率低是电大教育中一个很突出的现象，这不仅影响了学员的学习积极性和效果，也影响了学院的教学质量和招生等方面。本文从
网上英语角在帮助学习者攻克心理关、听说关等交际障碍的同时,由于缺乏组织与监控,尚未营造一个良好的学习氛围。只有将其与传统学习方式相结合,取长补短,相辅相成,并进行有
本文就传播心理学研究中存在的两个问题即新闻心理学是不是传播心理学的一个分支学科和传播学给传播心理学的研究留出了多少空间提出了自己的观点 :新闻心理学不是传播心理学