论文部分内容阅读
摘要：在拟噪声样本关键定理成立的基础上，结合拟概率的知识，讨论了拟噪声样本学习过程一致收敛速度的界。为下一步建立拟噪声样本的结构风险最小化原则打下了理论基础.也为进一步构建拟噪声样本的支持向量机提供了理论依据。
关键词：拟概率；期望风险泛函；经验风险泛函；一致收敛速度的界
中图分类号：TP18 文献标识码：A 文章编号：1009-3044（2016）23-0195-02
Abstract： On the basis of the key theorem of the quasi-noise variable， combined with the knowledge of quasi probability， the bounds on the rate of uniform convergence base on quasi-noise variable are discussed. The theoretical foundation is laid for the next step to establish the structural risk minimization principle of quasi-noise variable. It also provides a theoretical basis for the further construction of the support vector machine for the quasi-noise variable.
Key words： quasi-probability； empirical risk functional； expected risk functional； bounds on the rate of uniform convergence
1 引言
统计学习理论[1]（SLT）是机器学习的重要组成部分，它是针对小样本情况研究统计学习规律的理论，是建立在概率空间上的。关键定理和学习过程一致收敛速度的界是SLT的重要组成部分，在非概率空间上，这两部分的内容已经取得了重要的成果[2-8]。其中关于学习过程一致收敛速度的界的讨论都是基于样本不受外界影响的前提下的，实际应用中样本往往受到外界各种因素的影响。本文考虑到样本受到噪声的影响，利用拟概率测度，通过对指示损失函数的讨论，得到了拟噪声样本学习过程一致收敛速度的界，从而扩大了其应用范围。
2 基本概念
定理2估计了所选函数的风险值与最小可能风险值有多接近。这两个不等式都与给定函数集的容量[l]有关。
通过以上的讨论得到了拟噪声样本学习过程一致收敛速度的界。为进一步研究拟噪声样本的统计学习理论奠定了理论基础。下一步的工作是讨论拟噪声样本结构风险最小化原则及其应用。
参考文献；
[1] Vapnik V N. Statistical learning theory[M]. New York： A Wiley-Interscience Publication， 1998.
[2] 王芬. 机会空间上学习理论的关键定理[J]. 湖北师范学院学报（自然科学版），2013，04：76-79 99.
[3] 高林庆，李鑫，白云超，哈明虎. 泛空间上学习理论的关键定理[J]. 计算机工程与应用，2010，31：32-35.
[4] 李俊华，李海军. 基于模糊随机样本的学习理论关键定理[J]. 模糊系统与数学，2013，06：7-11.
[5] 李俊华，李海军. 受噪声影响的复hybrid样本的学习理论关键定理[J]. 河北大学学报（自然科学版） ，2014， 34（1）： 14-18.
[6] 杜二玲，李俊华. 受噪声影响的复拟随机样本的STL关键定理[J]. 河北大学学报（自然科学版），2015（5）：449-452.
[7] 王英新，唐世星. 粗糙学习过程一致收敛速度的界[J]. 承德石油高等专科学校学报，2010，02：71-74.
[8] 哈明虎，冯志芳，宋士吉，等. 拟概率空间上学习理论的关键定理和学习过程一致收敛速度的界[J]. 计算机学报， 2008（ 3）： 476-485.
关键词：拟概率；期望风险泛函；经验风险泛函；一致收敛速度的界
中图分类号：TP18 文献标识码：A 文章编号：1009-3044（2016）23-0195-02
Abstract： On the basis of the key theorem of the quasi-noise variable， combined with the knowledge of quasi probability， the bounds on the rate of uniform convergence base on quasi-noise variable are discussed. The theoretical foundation is laid for the next step to establish the structural risk minimization principle of quasi-noise variable. It also provides a theoretical basis for the further construction of the support vector machine for the quasi-noise variable.
Key words： quasi-probability； empirical risk functional； expected risk functional； bounds on the rate of uniform convergence
1 引言
统计学习理论[1]（SLT）是机器学习的重要组成部分，它是针对小样本情况研究统计学习规律的理论，是建立在概率空间上的。关键定理和学习过程一致收敛速度的界是SLT的重要组成部分，在非概率空间上，这两部分的内容已经取得了重要的成果[2-8]。其中关于学习过程一致收敛速度的界的讨论都是基于样本不受外界影响的前提下的，实际应用中样本往往受到外界各种因素的影响。本文考虑到样本受到噪声的影响，利用拟概率测度，通过对指示损失函数的讨论，得到了拟噪声样本学习过程一致收敛速度的界，从而扩大了其应用范围。
2 基本概念
定理2估计了所选函数的风险值与最小可能风险值有多接近。这两个不等式都与给定函数集的容量[l]有关。
通过以上的讨论得到了拟噪声样本学习过程一致收敛速度的界。为进一步研究拟噪声样本的统计学习理论奠定了理论基础。下一步的工作是讨论拟噪声样本结构风险最小化原则及其应用。
参考文献；
[1] Vapnik V N. Statistical learning theory[M]. New York： A Wiley-Interscience Publication， 1998.
[2] 王芬. 机会空间上学习理论的关键定理[J]. 湖北师范学院学报（自然科学版），2013，04：76-79 99.
[3] 高林庆，李鑫，白云超，哈明虎. 泛空间上学习理论的关键定理[J]. 计算机工程与应用，2010，31：32-35.
[4] 李俊华，李海军. 基于模糊随机样本的学习理论关键定理[J]. 模糊系统与数学，2013，06：7-11.
[5] 李俊华，李海军. 受噪声影响的复hybrid样本的学习理论关键定理[J]. 河北大学学报（自然科学版） ，2014， 34（1）： 14-18.
[6] 杜二玲，李俊华. 受噪声影响的复拟随机样本的STL关键定理[J]. 河北大学学报（自然科学版），2015（5）：449-452.
[7] 王英新，唐世星. 粗糙学习过程一致收敛速度的界[J]. 承德石油高等专科学校学报，2010，02：71-74.
[8] 哈明虎，冯志芳，宋士吉，等. 拟概率空间上学习理论的关键定理和学习过程一致收敛速度的界[J]. 计算机学报， 2008（ 3）： 476-485.