高维数据的变量选择和特征筛选

来源 :云南大学 | 被引量 : 0次 | 上传用户:lingjiu731
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在回归建模中,我们主要面临两类问题:变量选择和变量筛选.变量选择过程已被广泛应用于变量是固定维数或增长型维数(P随着n幂增长)的数据中,挑选出稀疏性参数同时对非零参数进行统计推断.变量筛选是在超高维回归数据(P随着n指数增长)下,筛选出重要协变量的过程.在实际问题处理中,针对超高维数据的回归建模,我们先通过变量筛选过程筛选出重要变量,进而利用变量选择的方法进行模型拟合.针对这两类问题,本文前两章讨论了两个变量选择的过程,后两章提出了两个变量筛选的方法.第一章介绍了在增长型非条件矩模型中,利用惩罚指数倾斜似然进行参数估计和稀疏性恢复的过程.并在理论上建立了指数倾斜似然估计量的相合性和oracle性质,并证明了受限制的惩罚指数倾斜似然比统计量服从渐进卡方分布.在模型假定错误的情形下,我们在理论上证明了惩罚指数倾斜似然的大样本性质及其稳健性.除此之外,我们研究了选择的相合性和高阶性质.最后通过模拟研究和实例分析证明了提出的方法的有效性.在第二章,我们考虑了删失相应变量和增长型协变量数据下的变量选择问题.我们首先构造了此类数据下所用的估计方程,然后结合折叠凹惩罚函数提出惩罚广义经验似然推断过程.在理论上我们建立了惩罚广义经验似然估计量的相合性和oracle性质,以及惩罚广义经验似然比统计量服从渐进卡方分布.在数值模拟中,对加权惩罚广义经验似然利用迭代的一步估计算法进行计算,并在理论上讨论了这个算法的收敛性质.通过数值分析,我们检验了提出方法的有效性.在超高维数据下,第三章介绍了一个新的特征筛选的方法.通过引入切片技术,我们把这个方法称之为融合均值方差特征筛选,并且这个筛选过程拥有以下优点:(i)稳健性,是因为我们并没有假定任何形式的回归模型;(ii)这个方法可以处理各种类型的相应变量,包括离散型数据,分类数据以及连续型数据;(iii)当协变量存在强相关性,协变量或误差服从重尾分布时,这个方法依然表现出很好的筛选结果.在一定的正则条件下,我们建立了 sure screening和rank consistency性质,并通过模拟数据和实例分析验证了我们的方法.在第四章,我们提出了 Spearman秩相关筛选的过程.在完整和删失相应变量下,我们分别提出了两个不同的统计量.跟Pearson相关系数不同的是,Spearman秩相关系数不仅衡量了两个变量的线性相关性,也衡量了非线性相关的大小.它有以下优点:(i)这个筛选方法跟融合均值方差筛选一样也具有稳健性,是因为没有假定任何回归模型;(ii)理论上我们在很弱的正则条件下建立了筛选方法的sure screening和rank consistency性质;(iii)在协变量存在强相关性,协变量或误差服从重尾分布下,Spearman秩相关筛选依然表现出很好的筛选结果;(iv)Spearman秩相关统计量使用的示性函数具有有界性和变量单调变换不变性.通过应用到模拟和实例数据我们验证了方法的有效性.
其他文献
为了研究气压及缓冲气体种类对光声信号及共振频率的影响,采用光声光谱技术,设计了一套基于光声光谱技术原理的痕量气体检测系统。实验中以NH 3标准气作为待测气体,采用向光
研究哈蟆油降血脂、耐缺氧和抗疲劳功能。运用酶法测大鼠血清总胆固醇(TC)、甘油三酯(TG)、高密度脂蛋白胆固醇(HDL-C)含量;观察小鼠常压耐缺氧存活时间及负重游泳时间,测定小鼠血
2019年,民事诉讼理论的研究和探讨得到了不断推进,呈现出一派活跃的争鸣场景。人们研讨的热点主题,有的是过去问题的延续,有的则是新问题的提出。在此,对过去一年中,一些值得关注的
报纸
党的十九大报告指出,“中国特色社会主义进入新时代”、“我国经济已由高速增长阶段转向高质量发展阶段”。在新时代背景下,为了适应高质量发展,为了更好地服务实体经济的需求,金
报纸
<正>为适应在线法律服务市场的发展需求,中国贸促会商业行业委员会联合法律服务行业有关企业,共同起草T/CCPITCSC 017-2018《线上线下法律顾问服务模式规范》团体标准,该标准
文章从杜牧诗文中提炼出“关中”与“山东”两个意象,以这两个意象为线索,追索杜牧的心路历程。“关中”与“山东”两意象体现为多种“落差”:先辈打造的鼎盛的家族与自身颓败的
中国特色社会主义新时代农业供给侧结构性改革要发展特色农业提高农业经济效益。要实施现代特色农业示范区创建行动、现代农业科技创新行动、品牌强农行动、农产品产销对接行
提 要$$   自由裁量权是行政权力的重要组成部分。它能使行政执法者审时度势、灵活机动、大胆地处理问题。但要实现行政法治,必须对行政自由载量权加以一定的控制。当前,
报纸
我国市场的竞争已呈质量、资本、技术和品牌多方面的综合素质的竞争态势,其中,品牌竞争已达到了白热化的地步,谁拥有名牌,谁就能在市场中站稳脚踉.因而,实施名牌战略已成为企业取胜
政治情绪排解为政府治理提供了崭新的思路和方法,有利于营造良好的政治生态环境。处于转型期的中国社会,如果政治情绪得不到适当渠道的有效排解,将会逐渐腐蚀政治合法性,引发社会