各种L_q惩罚在变量选择中的应用及其比较

来源 :山东大学 | 被引量 : 0次 | 上传用户:dfhjaljgjre
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在线性模型中,变量选择是很重要的课题,其中最基础的方法是最小二乘法,最小二乘估计是最佳线性无偏估计,但是当自变量存在共线性时最小二乘方法不再有效,在最小二乘的基础上加入惩罚函数有时会得到很好的效果。本文主要介绍了将L。惩罚函数应用到变量选择的问题中,介绍了一系列的惩罚函数、例如岭估计、桥估计、LASSO和Elastic Net,分别介绍了这些惩罚函数的优缺点,以及这些惩罚函数在一定条件下具备的Oracle性质。此外本文还介绍了将贝叶斯方法与Lq惩罚函数结合起来用于变量选择。最后进行了数据模拟,来直观表现各种惩罚函数的性质。本文主要内容分为以下三部分:第一章从总体上介绍了几种变量选择方法的背景以及各自的优点和缺陷,对各种方法的现实意义做了阐述。第二章对岭回归方法、桥估计、LASSO方法以及Elastic Net方法进行了详细的介绍,对三种变量选择方法的理论性质进行了研究,同时进行了比较,得出它们之间的共同点和各自的优缺点。并且从贝叶斯方法角度探讨了桥估计、LASSO和Elastic Net,得出一致结论。第三章首先进行了数据模拟,比较了最小二乘法、岭估计和LASSO,其次模拟Elastic Net的群组效应,最后用一组真实数据对几种方法进行了比较。
其他文献
节俭思想源远流长。现代社会,经济飞速发展,人民生活水平不断提高。然而,一些人渐渐忘记了节俭美德,将节俭看作“过期”的概念而否定其价值。节俭具有时代性,随着时代的发展
为了研究多视角倾斜影像技术发展,找出匹配难点,文章综述了当前匹配策略;通过对无人机平台的五视角相机的影像获取和处理技术进行了实际研究;在金字塔多级匹配、单应约束、核
某钢铁厂顶燃式热风炉升温过程具有滞后、时变和非线性的特点,现场热风炉烟气温度控制自动化程度低、控制品质差。为此,通过带遗忘因子的递推最小二乘法在线辨识时变模型参数
前言 肿瘤的发生与发展是一个涉及多方面、多因素的多阶段演化过程,在这一过程中癌基因及抑癌基因发挥着重要的作用。 P53基因为抑癌基因,其生化功能为转录因子,生物学功
选用新加材料和耐热制作的电热陶瓷锅,具有设计新颖,功能齐全,性能可靠的优点。
新的社会阶层主要是指改革开放以来在社会变革中出现的以自由择业知识分子为主体的新生社会力量.新的社会阶层概念经历了由“六种人”到“四个群体”的变化.相应的,其政治属
【正】 由中国音协古琴艺术联谊中心与台北和真琴社、上海今虞琴社联合主办的两岸琴声—古琴交流音乐会,于1992年7月11日、12日在上海音乐学院,于7月15日在北京音乐厅举行了
随着经济的发展,商品的快速消费能力越来越受到重视,而除商品本身功能以外,最吸引人们的莫过于商品的包装。而包装盒盒体作为商品包装中最重要的一个点,已经衍生出很多具有艺
目的:通过图形翻转视觉诱发电位(PRVEP)对视觉通路颅内脑肿瘤视觉功能状态的监测,了解PRVEP诊断视觉通路颅内肿瘤的敏感性,及是否能鉴别视觉通路的受损部位。 方法:选择重庆医科
<正>作者:[美]理查德·比特纳出版社:中信出版社次贷危机,是个听起来简单,想起来复杂,琢磨起来一头雾水的话题。当一个人不能承担自己的借款,债权人的损失似乎值得人们同情,