基于图的半监督学习算法及其应用

来源 :南京理工大学 | 被引量 : 4次 | 上传用户:cc249879369
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在传统机器学习中,学习器需要对大量标记数据进行学习从而建立模型来对未标记数据或未见数据进行预测。而实际应用中,海量的未标记数据是容易获取的,而对其进行准确标记往往较为困难。因此,人们尝试将大量的未标记数据加入到有限的标记数据中一起进行训练学习,期望能够改进学习性能,于是产生了半监督学习,旨在解决监督学习模型泛化能力不强、非监督学习的模型不精确等问题。其中,基于图的半监督学习算法因其良好的性能和易于求解的优点得到了广泛关注。基于图的半监督学习算法主要包括两个步骤:1)在输入数据上构造图;2)在构造的图上运用合适的学习算法推断图中未标记样本。本文主要针对这两个步骤,提出了两种图构造算法和两种半监督嵌入算法。论文主要工作如下:1.提出了一种基于数据自表示和拉普拉斯平滑约束的图构造算法(SRLS)及其多个变种。研究表明数据表示所得到的表示系数反映了数据之间的相似度关系,可作为一种相似度衡量。这种相似度衡量可用于图中数据之间连接边的权值。而数据自表示所得到的系数表示矩阵的每列可看成对应原数据一种新的表示,因此本文认为这种新的表示数据应当具备原始数据的某些特点。比如原始数据中两个较为接近的数据点所对应的新表示数据点之间应当具有较高相似度,这种约束关系在称为拉普拉斯平滑约束。SRLS图构造算法在l2范数最小化的数据自表示算法基础上,引入拉普拉斯平滑约束,并以此来构造图。由于l2范数最小化的数据自表示算法得到的系数表示矩阵往往是稠密的,为增加系数表示矩阵的稀疏度,本文又提出了一种基于SRLS图的两步算法。此外,分别将原线性空间扩展到希尔伯特空间和列生成空间,本文提出了两种核SRLS算法。核SRLS算法是通过迭代实现的,深入研究发现其优化问题在一定约束条件下可直接得到最优解,于是提出了一种约束核SRLS算法。2.提出了一种拉普拉斯平滑约束稀疏图算法(SGLS)及其多个变种。SGLS算法在稀疏图的基础上引入拉普拉斯平滑约束来构造图。稀疏图通过稀疏数据自表示得到,其核心是稀疏表示算法,通过l1范数优化问题得到稀疏表示系数。所提出的SGLS算法继承了稀疏图的许多特性,比如系数表示矩阵稀疏度高、对噪声鲁棒等。此外,本文也提出了核SGLS算法。同时,核SGLS算法所解决的优化问题在一定约束条件下可直接得到最优解,提出了一种约束核SGLS算法。3.提出了一种约束稀疏保持嵌入算法(CSPE)。稀疏保持投影算法(SPP)是一种经典的非监督嵌入算法,其通过在嵌入空间中保持原始数据空间中数据之间的稀疏表示结构。受其启发,本文提出了一种新的半监督嵌入算法,称其为带约束的稀疏保持嵌入(CSPE)。CSPE算法在嵌入空间中保持原有稀疏表示结构的同时,利用已标记样本信息在嵌入空间中聚集同类样本点。4.提出了一种弹性带约束稀疏保持嵌入算法(FCSPE)。所提出的CSPE算法是非线性直推式的算法,将训练集数据样本嵌入到一个低维空间中,无法直接对新进样本进行投影。FCSPE算法能在求解准则函数的同时得到一个近似的线性投影,克服了CSPE算法无法处理新进样本的缺点。
其他文献
数字技术所具有的强大的"影像造物主"的能力,史无前例地把许多以前电影人想过却表现不出来的题材变成了银幕上栩栩如生的画面,但是,随着数字化技术与视觉冲击的不断强化,使得
<正>数字盗版带来的巨大损失使全球唱片2010年销量下降将近15亿美元。据国际唱片业协会发布的年度《唱片业数据》报告显示,2010年全球录制音乐收入下降8.4%,达到159亿美元。
教学测评和评价的改革是教学改革的关键内容之一,本文结合在教学改革中的具体实践,讨论对教学测评改革的认识、创新设计和体会。
背景:研究表明,在肝动脉缺血时,肝外胆道组织和肝组织一样出现损伤性改变。肝外胆道缺血可导致胆道狭窄、胆漏等合并症,是影响肝胆外科手术质量的重要因素,也是肝移植失败的主要原
随着医疗科技水平的持续发展,乳腺癌的治疗已经逐步迈入精准治疗的时代。乳腺癌腋窝淋巴结(Axillary Lymph Node,ALN)的状态是影响患者生存预后的重要因素,还对临床治疗方案的
作者首先对旅游翻译做了文献综述,包括从动态对等、语用学以及跨文化交际的角度回顾了旅游翻译的研究现状及其存在的问题和趋势,相比其它传统翻译理论,德国功能主义翻译,尤其是目
<正>扶贫攻坚,电力先行。国网吉林省电力有限公司运营范围内的35个县中,共有12个贫困县、1489个贫困村,其中包含6个深度贫困县。针对地域现状,国网吉林电力因地制宜、统筹规
就国家发展模式而言,无论是20世纪80年代之前的“社会主义类型的社会”,还是80年代开始的自由化改革,印度的大资产阶级都发挥了不同程度的影响。但是,在印度,国家与阶级的关系具有
前言 随着细胞化学及细胞生物学的发展,自70年代开始,人们逐渐发现到诸多激素及生长因子都对软骨细胞的生物学行为产生作用。诸如胰岛素样生长因子、转化生长因子、成纤维细
目的:近年来的研究显示急性脊髓损伤(acute spinal cord injury,ASCI)后的继发性组织损害与继发性炎症反应密切相关。ASCI后多种炎症蛋白基因被激活并获得表达,诱生型一氧化氮合