边缘信息是物体最基本且最重要的信息之一,能够有效描述物体的外形、结构等特征属性。物体边缘的识别与提取一直以来都是数字图像处理和光学空间滤波成像领域的经典课题。目前,已经有多种边缘检测技术和方法被相继提出。在数字图像处理领域,边缘被认为是具有一定数量点的亮度发生剧烈变化的区域。基于查找或零穿越原理的数学算子以及多尺度检测算法、遗传算法、数学形态学算法等都能够有效提取数字图像中的目标边缘位置。而在光学空间滤波成像领域,边缘则被认为是由空间频谱中的中频和高频信息分量共同组成。基于经典4f相干光学信息处理系统,在空间频谱平面进行螺旋相位调制以抑制信号光的低频信息,从而产生边缘增强成像效果,能够使得目标边缘与背景呈现出明显的亮度对比。由于光场能量损失小且成像质量好等优势,基于光学空间滤波的边缘增强成像方法在边缘检测应用领域引起了更为广泛的关注和讨论。尤其,螺旋相位调制技术与菲涅尔非相干相关全息（FINCH）技术的结合克服了相干光源的限制,实现了非相干照明下的边缘增强成像,成为了一个新的研究热点。本文主要研究基于多模Laguerre-Gaussian光束相位调制的FINCH系统的成像特性,实现非相干照明下的多模式边缘成像效果,提高物体边缘检测的效率。此外,将螺旋相位调制技术与数字全息重建过程相结合,提出螺旋角谱法实现图像边缘增强。具体内容主要包含以下三部分:1.研究FINCH技术的基本成像原理,基于波动光学理论推导出FINCH记录系统点扩散函数的数学表达式。详细介绍数字重建过程中所涉及的三步相移技术和角谱衍射重建方法。按照常规系统参数配置实验,对USAF1951分辨率板进行成像,重点研究FINCH技术的分辨率增强成像特性。2.研究螺旋相位FINCH系统实现边缘增强成像的基本原理,基于Laguerre-Gaussian光束相位函数的特征参数匹配,将传统螺旋相位函数拓展至径向高阶、角向高阶的多模螺旋相位模式及径向低阶相位模式,并设计出一系列基于多模Laguerre-Gaussian光束相位调制的FINCH系统相位掩模。根据波动光学分析方法对成像系统的点扩散函数进行理论推导和数值仿真,并选取半径10μm小孔、USAF1951分辨率板、生物组织以及裂痕损伤玻璃板作为观测样品进行实物成像,研究系统的成像特性。在实验上首次实现了线宽可调的边缘增强、双边缘增强以及边缘标记成像效果。3.提出采用螺旋角谱法进行数字全息重建以实现图像边缘增强效果。将角向量子数l=1的螺旋相位调制引入到角谱衍射重建过程中。通过对数字重建过程的理论推导及数值模拟,阐释螺旋角谱重建法的基本原理。基于半径10μm小孔、USAF1951分辨率板以及生物组织的复值全息进行螺旋角谱重建,验证该重建算法的边缘增强成像特性。螺旋角谱法还被进一步应用于基于Michelson干涉仪的非相干数字全息技术中。