由衍射光学元件和折射元件构成的新型折衍射混合光学系统,能够解决成像光学系统中的某些具有挑战性的问题。多层衍射光学元件是新型衍射光学元件。传统多层衍射光学元件的设计基于以下假设条件进行,即假设环境温度恒定为常温20℃,并且假设光线垂直入射到衍射元件表面。当环境温度偏离常温20℃或者入射角度增大时,多层衍射光学元件的衍射效率有所下降。本文研究了环境温度较宽、光线倾斜入射等情况下多层衍射光学元件的衍射效率变化情况,发现不同基底材料组成的多层衍射光学元件衍射效率受环境温度或斜入射角度的影响差异较大。对于受环境温度或斜入射角度影响较大的基底材料组成的多层衍射元件,当环境温度发生变化或斜入射角度变大时,衍射效率下降较快甚至无法使用。因此,合理选择多层衍射光学元件的基底材料组合至关重要。本文提出了温度-基底材料优化选择方法和入射角度-基底材料优化选择方法,通过这些方法可以得到适用于宽温度范围和大入射角度范围的多层衍射光学元件最优基底材料组合。对于特定基底材料组合,本文给出了温度-微结构高度优化方法,有效提高了宽温度范围内多层衍射光学元件的衍射效率。本文的研究方法和结论对折衍射混合光学系统在宽温度范围或大入射角度下的设计和像质评价均有重要的指导作用。本文首先基于标量衍射理论,深入研究了各类衍射光学元件的衍射效率和带宽积分平均衍射效率。基于位相延迟表达式,分析了传统多级位相光栅的衍射效率,以及连续面型单层和多层衍射元件的衍射效率和带宽积分平均衍射效率。此外,为了校正环形孔径超薄成像系统存在的色差,在反射面上形成衍射微结构是有效的解决方法。本文提出了反射式成像衍射光学元件的概念及设计方法,基于标量衍射理论模型,给出了反射式成像衍射元件的微结构高度表达式、衍射效率表达式和带宽积分平均衍射效率表达式,并详细阐述了反射式成像衍射元件在环形孔径超薄成像系统中的应用。环境温度的变化对多层衍射元件衍射效率的影响不容忽视。因此,本文提出了温度-基底材料选择方法,给出了含有温度特性的多层衍射光学元件微结构高度表达式,通过对比分析不同基底材料组合对应带宽积分平均衍射效率差值,选出受环境温度影响小的基底材料组合,提高多层衍射光学元件在宽温度范围内的衍射效率。本方法有效拓宽了多层衍射光学元件的温度应用范围,避免了由于基底材料选择不当引起的多层衍射元件衍射效率随环境温度迅速下降的问题,为多层衍射光学元件在无热化系统中的应用提供了理论指导。对于已选定基底材料组合的多层衍射光学元件,提出了温度-微结构高度优化方法。通过环境温度变化对多层衍射光学元件衍射效率影响机理的研究,制定合理的边界条件,选取在整个温度范围内提高带宽积分平均衍射效率的设计波长组合,并逆向求解最优设计微结构高度,实现多层衍射元件宽温度范围内的高衍射效率设计。对于大入射角度引起的多层衍射光学元件衍射效率的下降,本文提出了适用于单波段和双波段多层衍射光学元件的入射角度-基底材料优化选择方法,给出了含有入射角度的多层衍射光学元件微结构高度表达式。通过对比分析不同基底材料组合的带宽积分平均衍射效率差值,找出适用于大入射角度范围的最优基底材料组合。入射角度-基底材料选择方法的提出,拓宽了多层衍射光学元件在斜入射情况下的适用范围,为大入射角度折衍射混合光学系统的设计提供理论指导。最后,基于本文提出的温度-基底材料选择方法和温度-微结构高度优化方法,设计了两个宽温度范围下的折衍射混合无热化光学系统,给出了详细的优化设计过程,分析了考虑衍射效率影响的设计结果,验证了优化方法的有效性;基于本文提出的入射角度-基底材料优化选择方法,设计了中长波红外双波段下的折衍射混合变焦光学系统,给出了该系统的设计过程,通过设计结果的分析验证了优化方法的有效性。