【摘 要】
：
经验风险最小化归纳原则的一致性与推广能力的界是机器学习中非常重要的两个问题,对特定损失函数集容量的研究很好的解决了以上问题,这其中最重要的是VC维及其扩展概念即V维
论文部分内容阅读
经验风险最小化归纳原则的一致性与推广能力的界是机器学习中非常重要的两个问题,对特定损失函数集容量的研究很好的解决了以上问题,这其中最重要的是VC维及其扩展概念即V<,γ>维与P<,γ>维,它们的上界对设计学习算法有着至关重要的作用.本文综述了机器学习的理论框架,我们发现RKHS上的不同损失函数集的V<,γ>维的上界可以归结为一种更一般的形式.此外我们用稳定性分析的方法得到了推广能力的上界,并说明了算法稳定性与容量之间的等价性.事实证明,本文所得上界比已有结果形式更为一般,也更为精确.第一部分概述了学习问题的模型,介绍了经验风险最小化归纳原则,并将其与解决学习问题的传统模式做了比较,最后我们将常用的分类损失函数与回归损失函数都写成了更一般的形式.第二部分从ERM原则的一致性引入,介绍了使它成立的各种条件,引入了熵、VC熵以及生长函数的概念,并基此给出学习过程收敛速度的界.第三部分引入了重要的容量概念即覆盖数、VC维以及尺度敏感维等,研究了它们的内在联系与计算方法,并介绍了该领域的现状.随后我们计算出了再生核Hilbert空间上的一般损失函数集的V<,γ>维的上界.最后用算法稳定性分析的方法得到了推广能力的上界.
其他文献
随着信息技术的快速进步,信息社会对个人身份认证与识别的需求在不断增长。具有非接触性、便捷的人脸识别,已经成为应用数学与模式识别等交叉学科的研究热点。在人脸识别系统
多媒体数据库系统是基于PB6.5开发的一个完整的数据库系统.该系统实现了图片、音频和视频三种媒质的录入、删除、检索和更新,并创建了用户和后台数据库的友好交互界面.在多媒
学习算法的样本复杂度与学习机器的推广能力在学习理论中都占有重要地位,本文研究了关于这两方面的若干问题.第一部分回顾学习理论的基本框架,介绍了学习问题的一般表示和学
环上的广义多项式恒等式理论是环论的一个重要分支,在近代数学的发展中占有相当重要的地位.自从1957后E.C.Posner提出著名的Posner定理以来,素环及半素环上的可加映射、微商
该文系统讨论了几类年龄依赖的单种群和多种群动力系统,综合应用非线性泛函分析、微分方程、积分方程以及分布参数系统控制论等理论与方法,深入地研究了这些系统的解的存在性
目前，哈密顿方程保结构算法研究是偏微分方程数值方法的主要研究领域，哈密顿系统有两个保持不变的基本特性:相空间中解流的辛与多辛结构以及系统自身具有的一个或多个首次积分
非线性微分方程边值问题无论是在理论还是应用上，都有着非常重要的作用，它可以用来描述很多物理、生物和化学现象，近些年来，对非线性微分方程边值问题的研究大部分为二阶微分两点
本文包含两部分内容: 第一部分主要研究乘法保持问题，即研究算子代数（或矩阵代数）上的保持算子某些性质的抽象乘法映射，它是矩阵理论和算子代数的主要研究内容之一。许多学者
随着互联网的普及和广泛应用,在网络服务器上一般放有大量数据资源(包括文本、图片、音频、视频等等)供用户访问.但是这种网络资源的开放也带了许多不好的方面,比如一些用户
T-S模糊系统可以用来逼近任何连续函数，分析传统线性系统的许多特性，同时可用于许多非线性系统的分析研究，是非线性系统建模的重要工具.为了减少网络传输中带宽资源的浪费，事件触