支持向量机的调节熵函数法研究

来源 :四川师范大学 | 被引量 : 3次 | 上传用户:caobing1983
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在统计学基础上提出的机器学习方法SVM (Support Vector Machine)在训练学习机器时,其学习方式是SRM (Structural Risk Minimization)准则,因此,学习机器不光具有简洁的数学形式,还使得其几何解释直观,易泛化。除此之外,它还将一般的学习问题与凸二次规划问题建立关联,凸二次规划问题的解即为原问题的解,从而保证所得解并非局部极值,而是全局最优解。SVM是一种集多种标准的机器学习技术于一身的新技术,它集成了最大间隔超平面、Mercer核、凸二次规划、稀疏解和松弛变量等技巧。在解决各种挑战性的实际问题中都有它成功的应用,譬如它可以用来预测、分类和线性与非线性回归。在对SVM研究中,学者们提出了各种各样的算法,这些算法要么有某一方面的优势,要么有一定的应用范围,且都是采用二次规划或线性方程组来求解相应的最优化问题。在模式识别中,SVM利用二次规划对偶技巧把优化问题转化为高维特征空间中一个简单约束的二次规划问题。虽然,通过分解训练样本集或序贯输入样本的方式能够处理这种高维的对偶规划,由此产生的算法既节省了存储空间,又提高了计算效率。但是,这些算法的设计和实现都比较复杂。极大熵方法是近几年提出的新算法,对于多约束非线性规划、极大极小等问题,通过该方法都能快速处理,与已有方法相比,其特点是:更易实现、更稳定、收敛更快。除此之外,极大熵方法在求解不可微和大型多约束等问题时也是有效的,因此,该方法有很高的应用价值。但其不足之处是对问题的精确解只有在参数p→∞时才能得到,当p取较大值时,又容易产生数值的溢出现象。针对这种弊端,本文在对SVM的理论基础----统计学理论和最优化理论,以及SVM本身的分类思想、方法和回归原理做了较为详细的研究和阐述后,根据SVC的分类方法和SVR的回归原理,提出了一种新的求解SVM优化问题的带调节因子的熵函数法。它克服了现有熵函数法只有参数p取得很大才能逼近问题的精确解的不足。将它应用在SVM的模式分类和回归问题中,能在低存储需求条件下有效地提高SVC的分类精度和SVR的回归性能。
其他文献
结核病是一种常见且致命的传染病,它已成为一种威胁全球人类健康的慢性传染病.因此,很多学者对结核病的传播机制和预防策略进行了大量研究.在新媒体时代,媒介报道是很多公共卫生信息的重要来源之一.于是,本文建立了具有媒介报道的结核病模型,并研究其稳定性、分支及最优控制,且给出了数值模拟来验证和推广所得理论结果.第一章,介绍了结核病的研究背景和现状,并给出了与本文相关的预备知识.第二章,研究了一类具有快慢进
学位
近30年来,我国的经济迅猛发展,石油化工行业作为龙头企业也发展迅速。而这个行业很多物质是危险化学品,其生产、存储以及运输过程中都会发生事故,其事故率也逐年增加。危险化学品
随着航天技术、信息技术和传感器技术的飞速发展,卫星遥感图像的空间分辨率与时间分辨率也大大提高,随之带来的遥感数据量以及处理的运算量都将增加百倍甚至千倍。如何提高海量遥感数据的处理速度,一直是遥感数据处理的研究内容之一。同时随着计算机并行计算的快速发展,GPU的计算能力和存储器带宽已经超过主流CPU,而CPU的多核编程也同时也成为提高处理能力的方式之一。计算机的并行计算技术与海量遥感数据处理的结合已
摘 要:吉林油田中浅层气井属于低压低产低丰度的三低油藏,开采过程中的井筒积液对气井产能的发挥有很大影响,必须采取必要的排水采气工艺。本文分析了气井产液对气井危害,阐述三种目前常用的排水采气工艺机理,根据三种排水采气方法的现场应用效果,总结出针对吉林油田中浅层三低气井的不同排水方法现场适用条件,为今后指导吉林油田中浅层气田的开发提供技术指导。  关键词:排水采气 泡沫排水 机抽排水  随着气井开采的
在波导问题研究中,数值方法是主要的工具。对于二维分段波导问题的数值计算,本文提出了基于DtN映射的两种高效的计算方法。该两种方法主要是将原来的分段波导的边值问题转化为
本文主要研究了关于修改有理贝齐尔曲线的方法,先是通过控制顶点、权因子的单个及多个的修改来改变有理贝齐尔曲线的形状,又在此基础上附加限制条件来达到对有理贝齐尔曲线的
复杂系统记录有大量的高维数据,且特征之间往往呈现高度耦合和强关联的线性或非线性现象,甚至还包含无关的噪声。与此同时,随着复杂程度的迅速提高,系统异常模式也时常发生。及时
期刊
设G是有限非交换p群,H是G的子群.如果H<G就有H<G,则称G是基本p群.本文给出了基本p群的一些性质,特别是,得到了一个有限p群是基本p群的充要条件.进一步地,运用循环扩张理论分类了Φ(G
算子矩阵是近年来算子理论中最为活跃的研究课题之一,其研究涉及到基础数学与应用数学的许多分支,如矩阵理论、优化理论和量子物理等等.本学位论文主要考虑算子矩阵的补问题和