神经网络模型中灾难性遗忘研究的综述

来源 :北京工业大学学报 | 被引量 : 0次 | 上传用户:xue5559
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,神经网络模型在图像分割、目标识别、自然语言处理等诸多领域都取得了巨大的成功.但是,神经网络模型仍有很多关键性的问题尚未得到解决,其中就包括灾难性遗忘问题.人类在学习新知识后不会对旧知识发生灾难性遗忘,神经网络模型则与之相反.神经网络模型在适应新任务之后,几乎完全忘记之前学习过的任务.为了解决这一问题,很多相应的减缓神经网络模型灾难性遗忘的方法被提出.对这些方法进行了归纳总结,以促进对该问题的进一步研究.主要贡献包括3个方面:对现有的减缓神经网络模型灾难性遗忘的方法进行了详细的介绍,并将不同方法分为
其他文献
针对标准长短期记忆(long short-term memory,LSTM)神经网络用于时间序列预测具有耗时长、复杂度高等问题,提出简化型LSTM神经网络并应用于时间序列预测.首先,通过耦合输入门
行人属性作为一种高级语义特征,对照明、姿势改变等具有鲁棒性,已经被广泛用于行人重识别和视频分析中.为了提高监控场景下行人属性识别(pedestrian attribute recognition, PAR)的准确性,结合最新的人工智能(artificial intelligence, AI)解释性研究,从机器注意的角度出发,综合考虑属性间的互斥性以及依赖性,提出一种限制神经网络注意的多任务行人属性
为了解决单片机课程与无人机应用技术专业核心课程紧密衔接不紧密的问题,使学生尽快融入专业学习,对无人机专业单片机课程进行教学设计与实施。选择适合无人机专业的5个教学
针对城市污水处理运行过程中出现混合异常数据的问题,提出了一种基于改进型随机森林的数据清洗方法.首先,设计了一个孤立森林的异常数据识别模型,识别数据中的离群值.其次,建
为了减少因驾驶员的生理和心理健康状况变化引发的交通事故,实现对驾驶员健康状态的自动监测和实时优化,提出以控制论的基本理论为基础的驾驶员健康状态闭环反馈系统框架.首
随着中国国际地位的提高,举办大型活动日渐频繁.大型活动人员规模大、政治规格高、被社会大众广为关注等特点决定了其食品安全保障与传统食品监管有着不同的侧重点.为了更好
针对目前面向视频传输应用中,对低分辨率视频应用超分辨率技术进行还原时引发严重病态性问题,结合视频传输的全过程,提出一种联合上下采样的超分辨率框架.该框架通过将下采样过程和超分辨率过程进行联合训练,使得原始高分辨率视频的信息能够指导低分辨率视频的重建,并且下采样过程和超分辨率过程互相约束,减小了整个映射空间的尺寸,使得模型的泛化能力更强.实验表明,提出的方法在常用的图像超分辨率数据集上峰值信噪比(p
针对我国研究生招生规模不断扩大而在培养体系中实践教学存在的不足问题,构建了实验-实践-实战的创新能力培养体系,主要以交叉融合理论教学为基础,建立了教学、实践、科研三
通过对制动噪声的分类、产生机理及抑制方法的研究,结合乘用车工程开发的应用需求,提出以仿真分析、台架测试、整车测试为基础的抑制乘用车制动噪声的工程开发流程。
燃料电池汽车具有能量利用率高、零排放等优点,对其动力系统进行优化升级,提升整车性能.根据燃料电池汽车混合动力系统的结构,基于传统汽车平台,在不改变其结构参数和性能参