在信号处理领域,信号的表示是最基本的问题之一,有效地对信号内容进行表示是信号处理的关键与信号应用的基础.在数字化信息时代,人们每天都在处理着海量的数据信息.寻找数据的有效表示是信号处理领域一直努力的方向,特别是高效地对信号进行稀疏简洁的表示,即稀疏表示.稀疏表示领域的核心思想在于用尽可能少的非零元素对原始数据信号进行表示,即通过稀疏编码用少量的数据来高效表示原始目标信号数据的关键信息,减小了信号的表示冗余并提高了信号的处理效率.卷积变换学习（Convolutional Transform Learning,CTL）是一种新兴的稀疏表示方法.它结合了无监督学习与卷积神经网络的优点,通过无监督的方式学习一组平移不变卷积核组直接从原始信号提取特征,被证明了比传统的稀疏表示方法具备更强的稀疏表示性能.并且与卷积神经网络相比,卷积变换学习模型通过无监督方式学习得到卷积核,不存在对数据标签的依赖问题,克服了卷积变换学习在面对无标签或标签稀少数据时的瓶颈,同时通过对卷积核组的正则化约束其多样性,可以从输入信号提取更具多样性的特征,避免造成特征提取的相似冗余.然而,现有的卷积变换学习算法所使用的稀疏约束方法仅有基于l0范数与基于l1范数两种:l0范数通过约束特征中的非零元素数量来达到稀疏约束的效果,但是其求解是一个NP-hard优化难题,通常采用贪婪算法选择局部最优值求近似解,难以得到精确度足够理想的稀疏特征;l1范数是l0范数的凸松弛解,通过采用软阈值法可以简单求得封闭解,但是l1范数存在稀疏度不足和大元素过度惩罚的缺陷,同样容易导致模型获得的稀疏解精确度不足的问题.此外,单层的卷积变换学习稀疏编码模型对于信息丰富复杂的输入信号,难以有效提取信号的深层语义信息,获取更具鉴别性的深层稀疏特征的能力受限.因此,针对现有卷积变换学习存在的问题,本文对卷积变换学习算法及其应用展开研究.具体内容如下:首先,针对现有的基于l0范数与基于l1范数卷积变换学习算法提取稀疏特征存在提取稀疏特征精确度不足的问题,本文提出了一种基log正则化的卷积变换学习算法,使用稀疏度强且偏差性小的非凸log正则化方法作为卷积变换学习的稀疏约束,提升卷积变化学习的稀疏特征提取精确度.其次,针对单层卷积变换学习难以提取信号深层信息的问题,本文提出了多层log化卷积变换学习框架,将单层log化卷积变换学习模型进行层次拓展,构建多层稀疏编码结构提取输入信号深层次更具鉴别性与丰富语义的特征,提升对输入信号的稀疏特征提取质量.最后,针对log正则化函数的非凸优化问题,本文使用近端凸差分算法对模型目标函数的非凸优化问题进行求解优化,首先使用凸差分分解将目标函数的非凸log函数转换为两个凸函数的组合,从而将非凸非光滑的目标函数优化问题转换为非光滑优化问题,然后继续使用近端梯度法求解优化求解非光滑的凸优化问题,开发基于近端凸差分方法的log卷积变换学习算法.通过在多个公开的人脸图像数据集的特征提取分类实验结果表明,本文提出的基于log正则化稀疏约束的卷积变换学习算法在稀疏特征提取精确度实现了对现有的基于l0范数与l1范数稀疏约束的卷积变化学习算法的突破,并且,通过层次拓展实验,验证了基于log正则化函数的多层卷积变换学习在单层的基础上进一步提升了稀疏特征的提取质量.