全息显示(holographic display)技术具有能够完整重建三维场景的光场的能力,并且同时可提供全部深度线索以避免辐辏调节冲突,是理想的真三维显示。随着微电子信息技术、计算机技术和硅基液晶技术的不断发展,计算机全息图(computer generated hologram,CGH)因其制作简易、便于存储、传输和能够重建虚拟物体等特点,已经逐步取代了传统光学干涉法生成的全息图,在动态全息三维显示中扮演着重要的角色。然而,当前利用计算机全息图实现三维重建还存在各种问题,制约着全息显示。本课题将全息显示引入的增强现实近眼显示系统中,为了进一步提高计算机全息图重建的质量与简化全息增强现实显示的光学系统,本文主要围绕着基于单个纯相位空间光调制器(spatial light modulator,SLM)的全息显示展开研究,通过研究基于复振幅调制算法的全息视网膜成像算法从而解决当前全息图在计算过程中存在的计算量大、计算速度慢以及重建图像散斑噪声严重的问题,通过研究借助全息光学元件(holographic optical element,HOE)、全息波导结构来实现光学系统简化从而解决传统全息增强现实显示结构冗杂等问题。本文在对主要工作展开之前,首先简述了传统全息及计算全息的发展历程,紧接着介绍了三维显示与全息显示的研究现状以及当前全息显示面临的一些技术难题。然后详细介绍了一些重要的全息理论,包括经典的标量衍射理论,三维物体的全息图计算方法,并且对比了振幅型全息图与相位型全息图编码算法的差异,引出了后续关于复振幅调制全息图算法的研究。本文的重点内容为关于全息视网膜成像算法及光学系统的研究,可以分为算法研究与光学系统研究两部分,这两部分内容还有交叉的部分。在算法研究的部分,首先综述了两种纯相位全息图的复振幅编码算法,在双相位法的基础上,本文提出了一种引入数字预滤波的双相位编码法。该方法利用数字预滤波器可以避免在双相位编码方法中由棋盘格下采样引起的频谱混叠。经过数字仿真和光学实验的验证,尤其是当SLM的像素间距不够小或图像的带宽过大,该方法能够抑制由于频谱混叠而引发的严重的背景噪声。这是一种简单,有效且不需要迭代计算就可以改善全息显示器的图像质量的方法。在算法与光学系统交叉的部分是通过把人眼透镜系统纳入成像光学系统中去考虑,本文推导出全息视网膜成像系统中的几何光学联系,从而实现基于复振幅调制算法的全息视网膜成像。在光学系统研究的部分,首先分析了全息显示在增强现实领域的应用潜力,本文利用HOE和全息波导对光学系统进行了结构简化设计。最后本文还提出了一种新型的全息波导结构,通过将反射式SLM贴合到全息波导上来实现对整个成像光路的缩减,从而达到光学结构简化的目的,并且通过光学实验对此结构的有效性进行了验证。