非线性光学自发现以来就深受研究学者的关注,被广泛的应用于激光调制、光电开关、频率转换、光学参量振荡器和光学信息加密等。超表面是由亚波长的微纳结构组成的,可以操控光的振幅和相位等性质。非线性光学超表面是一类超表面器件的统称,这类器件由于其具有较高的非线性转换效率、制备简单和结构紧凑等优点,自其问世到现在已经在光学领域占据了举足轻重的地位。本文研究了超表面在全息显示和非线性转换的应用,并将非线性光学和全息成像相结合,设计并验证了非线性全息超表面。该种方法可以用于信息加密、低噪声的全息成像。主要内容包括以下几个方面:1)本文选用可见光波段吸收低的硅作为单元结构的材料,利用仿真软件对单元结构的转化效率、电场分布和相位等关键性能参数进行了计算,筛选出不同波段最适宜的单元尺寸。利用GS算法获得纯相位全息图,在已经挑选的单元结构的基础上编码全息图。并利用仿真软件验证全息图准确性,以及超表面作为全息图编码材料的可行性。提出并验证了对全息超表面进行消色差处理的方法。2)由于纯金属或纯介质非线性超表面存在转换效率不高的问题,提出了金属介质混合超表面。通过对单元结构的调整,设计了一个多波段共振的金属结构。利用多波段共振的相互配合,在基波与谐波波段均产生等离激元共振,形成模式匹配。基频处的暗态有利用能量聚集,倍频处的亮态更有利于将产生的二次谐波的信号辐射出去。并利用非线性介质材料作为“转换器”,进而形成高效的非线性转换。3)通过对砷化镓单元结构的设计,使超表面能够在1200nm和840nm都产生共振增强。产生的强电场增强使结构能够促进非线性转换,产生倍频光以及和频光。并在已经验证过的全息图的基础上,利用非线性PB相位编码全息图到非线性超表面上。利用仿真软件验证非线性超表面在二阶非线性光波段的全息成像的可行性。本论文的设计思想将为非线性彩色全息超表面提供非常有价值的借鉴和指导。研究成果为光学超表面在频率转换和全息成像方面的应用提高更多的思路。