增量式的强化学习在动态环境探索的研究

来源 :昆明理工大学 | 被引量 : 0次 | 上传用户:shendongshendong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术不断更新,强化学习在预测和探索方面都有广泛的运用,它是机器学习的重要方法之一。强化学习的核心技术已运用在相关控制领域的系统中,这些系统在已知的稳定环境下能很好的探索,但在动态的环境下探索效果不佳。如何在动态环境中有效的探索是当前研究热点之一。基于智能体在动态环境的探索基础,本文提出增量式强化学习的方法来处理动态环境。为了处理智能体在动态环境探索的问题,本文提出增量式的强化学习在动态环境探索的算法。这个算法分为两部分:增量式轨迹的探索(TQL)和动态环境的扫描预处理算法(DEPP)。在TQL中,将带有轨迹的知识添加到Q-learning中,然后通过Q函数更新的过程更新轨迹。在DEPP中,对环境进行检测,对变化的状态空间进行标记统计,然后在扫描预处理过程中将标记的环境加入原有环境中形成新的环境。在扫描预处理后形成新的Q函数,智能体在新的环境中继续学习,形成新的最优策略。本文中结合这两种算法的优势提出融合算法的流程和实现的步骤核心思想。本文中的算法在迷宫的仿真环境测试,和原始的Q-learning和PRL进行对比分析。分别基于sofrmax和ε-greedy策略选择动作,对比在这两个动作选择策略所用的步数和时间。仿真结果和分析表明本文算法在探索动态环境中基于两种动作选择策略上明显比其它两种算法能更好的探索并且在时间和探索步数上少于两种对比的算法。通过仿真测试,验证了本算法在动态环境的有效探索。
其他文献
网络开设赌场案件证据审查面临主体身份同一认定难、电子数据等客观证据挖掘难、嫌疑人辩解查证难等问题。对此,可以探索设备、数据、行为“三位一体”同一性认定模式,构建大数据分析模型挖掘电子数据,排除虚假供述。检察机关办理网络开设赌场案件,要加强对网络信息专业知识的学习,树立“万物互联”的大数据理念,建立以客观证据为核心的证明体系,坚持检技融合,借助“外脑”智慧,实现对网络赌博犯罪精准打击。
期刊
矿业是马里共和国发展最快的产业,马里共和国的矿业资源极大的促进了马里国内的经济发展水平和国民生活质量,占国民收入的25%。马里比较具有潜力的主要是黄金、钻石以及铁、锂、磷酸盐、石灰石等。其中,金矿是马里整个矿业的支柱。近10年来,马里在矿业尤其是黄金生产方面发展很快,马里的黄金开采一直呈现上升趋势,马里的黄金出口也是国民生产总值的重要组成部分。因此,本文选择马里共和国的黄金产业作为研究对象,通过对
学位
目的:组织工程血管(TEBV)在血管代替移植方面具有巨大的临床应用潜力,内皮化被认为是保障小口径组织工程血管长期畅通的关键。然而,在复杂的病理微环境中,内皮细胞(ECs)可经历内皮-间充质转化(End MT),进而诱导病理性血管重塑,引起TEBV狭窄或堵塞。炎症细胞分泌的炎症因子和生长因子,如肿瘤坏死因子-α(TNF-α)、白介素-1β(IL-1β)、转化生长因子-β(TGF-β)等是在End M
学位
杜氏肌营养不良症(Duchenne muscular dystrophy,DMD)是一种严重的致死性肌肉疾病,定位于肌膜的抗肌萎缩蛋白Dystrophin功能缺失是其致病因素。水通道蛋白4(Aquaporin 4,AQP4)是一种负责调控转运细胞内外水的膜蛋白,它在肌肉中广泛表达,对维持肌肉正常功能至关重要。DMD病人会在3-5岁时开始发病,并且发现AQP4在肌肉中的表达显著降低。然而,在DMD发
学位
近年来网络赌博逐渐发展成为重要的赌博方式以及网络犯罪形式,全国网络赌博犯罪案件剧增。网络开设赌场案件涉案账户众多资金数额巨大,资金性质复杂,认定标准不一、相关制度机制滞后、“重人身轻财产处置”观念等原因造成司法实践混乱,资金处置问题不断涌现,易侵犯公民合法财产权利,影响司法公信力。在司法实践中,应当以取证规范为基础强化涉案资金的审查认定,合理把握认定标准,正确界定可以没收的资金范围,从审前、审理、
期刊
作为人类生存发展过程中的主要实践活动,交往是人与自然、人与人之间发生的一系列社会实践活动的总和。它的范畴所涉及的十分广泛,不仅涉及到人、自然和社会等交往对象,也涉及到工具、语言等交往手段与媒介,还涉及到不同的交往活动以及与之相应的不同交往目的。交往活动、交往水平受生产力发展水平、人们的认知水平等诸多因素影响。不同的社会历史和文化背景下,人们也形成了不同形式的交往活动,随着信息技术的发展,网络交往成
学位
在霍布斯死后发表的作品《一位哲学家与英格兰普通法学者的对话》中,霍布斯站在哲学家的立场与以柯克爵士为代表的普通法学家展开了激烈的交锋,在他们的交锋中有关法律来源的问题无疑是全书的重心。本文从法之来源这个切入点出发,主要围绕正义、理性、主权者、习俗这四个领域分析了霍布斯对柯克的批判。就法之来源与正义的问题而言,霍布斯追溯了法律的来源,论证了法律先于正义。另外,霍布斯认为公共的正义高于个体的正义。从这
学位
维特根斯坦关于生活形式的思想是其后期哲学中极为重要的思想之一,但是由于维特根斯坦本人对此着墨不多,也并没有对生活形式展开详细的讨论,导致学界对生活形式思想的研究出现了各种各样的困难以及各不相同的结论。维特根斯坦认为哲学上的困惑主要来源于我们对语词的误用,而这一点是贯穿其一生的。早期维特根斯坦寻求语言背后深层次的逻辑构造,借以澄清语言的表层语法对我们智性上的蛊惑,而后期维特根斯坦却从日常生活的角度出
学位
近些年校园集中配餐作为一种方便、快捷和安全的团体配餐供给形式,很好地解决了“营养用餐难”这一学校和家庭所需面对的棘手难题,越来越受到学校和家长的青睐。特别是因新冠疫情防控需要,要求学生集体就餐不聚集、不扎堆,校园集中配餐很好地满足了相关要求,被更多的学校所选择,就餐人数不断增长。然而由于部分企业管理方式粗放,忽视学生群体需求,导致了学生和家长群体满意度不高,服务体验较差等问题,甚至出现了如“天津配
学位
中国自古以来就重视对于商贾群体的思想引导和教化,但是并未形成系统的精神体系。改革开放以后,中国的企业数量和企业家群体不断壮大,中国的企业家群体披荆斩棘、艰苦奋斗,形成了具有中国特色的企业家精神。进入新时代,企业家精神已经成为中国共产党人精神谱系的重要组成部分。2014年,在亚太经合组织领导人峰会上,习近平总书记第一次向外界提出要重视企业家精神,提升社会创新发展活力。在党的十九大报告中,习近平总书记
学位