一种基于异构超限学习的集成学习框架

来源 :北京科技大学 | 被引量 : 0次 | 上传用户:zhouyonge
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的神经网络(NNS)是一种机器学习技术,其有着训练时间长,易陷入局部最优和需要人为干预等诸多缺点。最近,超限学习机作为前馈网络(SLFN)的一种扩展,由于其快速的学习速度和良好的泛化性能,已成为一种热门的分类问题解决方法。此外,在集成学习提供一种低消耗的优化方案,其通过各种集成策略将多种学习算法的预测结果结合在一起,以获得更好的预测性能。通过聚合所有候选模型,集成学习可以降低模型错选的风险,从而比单一模型更精确。准确率被认为是衡量集成策略是否成功的一个重要标准。为了提高准确率,多种技术被提出,但其中缺乏完美的方案以适应不同问题。本研究的重点是在文本分类中如何建立准确的超限学习机集成模型有监督的数据、噪声数据、不平衡数据和半监督数据。为了解决上述问题,我们提出了一种异构超限学习机集成框架。为了处理噪声数据,我们通过相关熵来减少异常数据的敏感性,同时通过负相关学习(NCL)来提高集成中的多样性。文本提出的面向分类的ELM异构集成(HE2LM)框架包括多个不同超限学习机算法:正则超限学习机(RELM)、核超限学习机(KELM)和L2范数优化超限学习机(ELML2)。为了处理不平衡数据,我们提出了一种基于超限学习机的多样化AdaBoost集成(AELME)来处理二分类和多分类问题。为了处理半监督学习问题,我们引入了多核半监督超限学习机算法(MKSSELM)。其通过匹配不同来源的不同信息,以显示区别,从而实现灵活地处理各种来源的各类离散的数据。我们优化了超限学习机的结构参数和各个核的组合权重,以替代传统的单一核方案。我们在核的组合权重上使用一个非负约束,并以L1范数作为调节项完成优化过程。我们将集成算法应用于大数据集。此外,我们将其应用于三个案例研究。即功能磁共振成像、说话人识别和覆盖型数据。
其他文献
近年来,人才和人力资源管理问题引起了全社会的高度重视。《中共中央国务院关于进一步加强人才工作的决定》指出:“小康大业,人才为本。适应国内外形势的发展变化,完善社会主
现如今,我国社会信息在不断的日新月异的变化,在日常的生活中平面设计是越来越重要了,对于平面设计中最重要的是颜色的搭配,它能够提升平面设计的整体效果,色彩搭配如果搭配
背景:纳米生物活性玻璃的发展为口腔组织再生修复提供了更多的选择,是现今口腔组织再生材料的研究热点。目的:通过对国内外相关论文的总结讨论,综述纳米生物活性玻璃的口腔组
将城市污泥应用于生态恢复因能避开粮食作物食物链而具有良好前景,但其对地表水环境影响仍不十分清楚.本文将城市污泥与建筑垃圾按1∶1体积比混合为生长基质,覆盖在模拟的煤
近年来,国家非常重视农村的环境保护,要求整改和治理农村污染问题,在发展三农的同时,也要保护好绿水青山。开展环境统计工作,能有效地辅助农村生活污染治理。由于农村生活污
大量农业剩余劳动力无法顺利实现非农转移,是困扰我国农村经济发展的症结所在。20 世纪90 年代以来,以“民工潮”为形式的农村劳动力流动,成为继乡镇企业之后我国转移农村剩
<正>近年来,全省各地坚定不移地走农业创新发展的路子,大力推进发展理念、经营机制、产业结构、科技服务等创新,高效生态农业取得实质性进展。具体实践中,各地遵循"三化"同步
自20世纪50年代创建社区管理模式以来,世界各国在社区管理模式研究方面作了大量有益的探索和尝试。在我国,随着政治和经济体制改革深入,近两年来,全国26个国家级社区建设实验
建立了太阳能集热器非稳态数学模型.以工程实例为研究对象,借助于TRNSYS软件,分析不同集热器类型,集热面积,水箱容积,水箱流量对太阳能集热系统性能的影响.优化集热器和水箱
噪声交易现象是伴随着资本市场的产生而出现的,但是由于长期占统治地位的传统金融理论认为:理性套利机制将烫平价格的波动,并使非理性交易者(噪声交易者)遭到挫败,最终在市场