增强现实型头戴显示器是一种在观察现实环境的同时显示虚拟信息的近眼显示器,近年来广泛应用于军事和民用领域。目前,头戴显示器正朝着小型化、轻量化、全彩色的方向发展,因此对系统尺寸和重量、显示图像质量和亮度等提出了更高的要求。本论文围绕头戴显示器中的两项关键技术——全息波导成像系统和微显示器开展研究,基于光栅理论、广义斯涅尔定律、表面等离子体激元等现有理论,探索了微纳结构对电磁波的调制机理、新型衍射光栅的衍射机理、超表面结构频率选择和偏振转化机理。通过理论推导和严格耦合波分析法、有限元法等数值分析方法,对微纳结构光学特性,及其在头戴显示方面的实际应用展开研究。研究单色和复合体全息光栅的衍射特性、光谱特性和杂散光现象,建立复合体全息光栅折射率理论模型。通过优化几何结构,提高衍射效率,降低杂散光,获得了具有较高出耦合衍射效率、较少杂散光的基于复合体全息光栅的彩色全息波导成像系统,实现了红、绿、蓝光均匀出射。研究一维金属光栅和体全息光栅组合的双层耦合光栅的衍射特性、光谱特性和亮度效率,推导了双层耦合光栅的布拉格条件,优化金属光栅结构,提高衍射效率和亮度效率。将双层耦合光栅应用于全息波导成像系统,获得了较高的接收亮度效率。研究超表面谐振腔共振原理、偏振转换原理。研究超表面谐振腔光学特性和电压调制方法,优化滤波带宽和滤波效率。提出一种具有连续电光调制功能的超表面滤色片,实现了可见光波段较高反射效率、较窄带宽的动态滤波效果。基于超表面滤色片,研究超分辨率彩色微显示器显示原理和驱动方法,提出一种利用脉宽调制电压实现动态彩色图像显示的方法。优化像素间距和像素大小,降低电压串扰,提高像面反射率,最后提出了一种具有超高分辨率的新型彩色微显示器。本文开展的研究工作,拓展了衍射光学元件和超表面结构的应用领域,为新一代头戴显示设备的研制提供了理论依据。