薄膜衍射成像技术是未来构建大口径太空光学望远镜的关键技术,薄膜衍射器件解决了传统望远镜主镜的大重量和高面形精度问题,为实现大口径甚至超大口径望远镜的构建提供了新的技术途径。本论文主要研究了目前大口径衍射望远镜光学系统中存在的若干关键问题,包括大特征尺寸菲涅尔校正板的设计、可见光范围内的光子筛望远镜成像系统设计以及大口径衍射望远镜的中心遮拦分析和频谱改进设计,具体研究工作如下:1.提出了两种大特征尺寸校正板设计方案,分别为混合调制透镜和谐衍射透镜,目的是通过增大校正板的特征尺寸,降低校正板的加工难度。仿真实验表明,混合调制透镜和谐衍射透镜均能作为校正板消除宽光谱衍射成像系统中衍射主镜引入的色差,但两个校正板有各自不同的光学和加工特性。混合调制透镜不仅可以增加校正板的特征结构宽度,还可以减小其微结构的坡度,而谐衍射透镜只能增加校正板的特征结构宽度,不改变其微结构的坡度,因此,混合调制透镜比谐衍射透镜更容易加工;然而,混合调制透镜的易加工性是以牺牲衍射效率为代价,其衍射成像系统的效率仅约为10%,相比之下,谐衍射透镜可以较好的保证衍射成像系统的衍射效率(>95%)。2.提出了两种RGB三通道光子筛望远镜设计方案,分别为基于径向分区光子筛的RGB三通道望远镜设计方案和基于随机分区光子筛的RGB三通道望远镜设计方案,目的是将光子筛望远镜的成像频谱范围从几十个nm覆盖至可见光范围。仿真结果表明,随机分区三通道设计可以更好的消除R、G、B三个通道的色差,并且具有更好的聚焦特性,但随机分区设计的三个中心波长受到谐衍射透镜谐波长的制约,以至于三个通道的频段不能任意选择;相比之下,径向分区三通道设计的三段频谱相互独立,具有更高的设计自由度,但该设计的外通道像点具有较高的旁瓣,且不同通道像点的分辨率不同,因此径向分区三通道设计的成像质量较低。3.提出了一种基于柔性对称分布钢圈的薄膜支撑机构,用以支撑光子筛薄膜,并加工了用于支持100mm口径光子筛的薄膜支撑机构。分析表明,该支撑机构具有质量轻、结构简单、便于折叠和展开和自稳定特性等优点,非常有利于实现大口径衍射薄膜在太空中的高精度支撑和展开。4.分析了大口衍射望远镜中的中心遮拦问题,并根据分析结果提出了一种频谱平移设计方法,有效的减小了大口径望远镜中的频谱遮挡。另外,设计了静止轨道一米分辨率的衍射望远镜光学系统,用以评估我们的方法在避免频谱遮挡上的有效性。仿真实验证明,我们的设计不仅避免了对设计频谱的遮挡,并且改善了望远镜系统的MTF曲线,提高了望远镜的成像质量。