为提高空间光学遥感技术的能力,要求光学系统具有更高的分辨率。增大光学系统口径是提高空间分辨率的有效途径,然而大口径元件的运用受到光学材料、重量、加工、制造成本和运载能力等因素的制约。因此,探索新理论、新方法和新技术,突破空间光学系统口径增大的限制迫在眉睫。本文研究的环扇形主镜光瞳编码结构,为大口径空间光学系统开辟新的技术途径,有利于促进空间光学遥感器的发展。环扇形光瞳编码技术旨在对大口径光学系统主镜光瞳进行稀疏编码,在探测器上形成模糊的中间像,通过数字图像解码手段恢复成清晰的最终像。该技术将光学设计和数字图像处理相结合,不仅可以大幅度减轻大口径主镜的重量,获得与全口径光学系统相当的成像性能,而且能在大的离焦范围内,其光学传递函数对离焦低敏感,具有非常实际的应用前景。首先详细阐述国内外大口径高分辨率光学遥感系统的研究现状,指出我国大力发展高分辨率遥感卫星及探索新理论新技术的迫切需求。从夫琅和费衍射理论出发,分析光瞳编码光学系统的成像过程及点扩散函数(PSF)和调制传递函数(MTF)的计算公式。通过分析孔径编码结构类型及MTF分布规律,提出大口径环扇形光瞳结构的设计思想。其次,分析了环扇形光瞳的结构与相应的光瞳函数表达式,分析其点扩散函数及调制传递函数,指出环扇形孔径具有全孔径分辨能力的原因。研究主要结构参数宽径比和子孔径角度对MTF的影响规律。指出和分析环扇形光瞳结构对离焦像差的低敏感性。从实际应用角度分析其可加工性,通过有限元分析方法验证环扇形光瞳编码结构具有明显的轻量化效果。根据文章大口径高分辨率光学系统应用特点,完成同轴偏视场三反射光学系统及折反射球面光学系统的优化设计,并实现环扇形光瞳编码结构的应用,分别进行轴上点及不同离焦量模拟成像和图像复原,复原效果良好,表明环扇形编码结构的应用使得大口径光学系统对离焦低敏感,且在一定程度上能扩大光学系统的视场角。最后,搭建了环扇形光瞳编码系统实验验证装置,不同填充因子的环扇形光瞳结构对星点和分辨率板的成像结果表明：环扇形孔径光学系统的分辨率图像经过数字图像复原后,可达到与全孔径系统的分辨率相当水平,有明显的潜在应用优势。