对于高分辨成像系统尤其是大口径地基天文望远镜,外部畸变波前的扰动和光学系统内部的像差是阻碍高分辨成像的主要因素。主要的解决手段有自适应光学技术、事后图像复原技术和混合处理技术(自适应光学校正和事后图像复原结合),前两种技术在单独使用时对像差的校正能力有限,目前混合处理技术是主流方法。但是,这种“混合”的实质是自适应光学技术和图像处理技术的简单拼接,其波前校正器的控制方法仍沿用最小化波前均方差的传统思路,导致系统的输出—复原图像并不受控制方法的约束。因此,对于混合处理系统来讲,研究一种真正结合两者并以提升复原图像质量为目的的控制方法具有重要意义。本论文以优化成像系统所获图像的质量为方向,对自适应光学技术和图像复原技术结合下的控制方法,以及自适应光学系统新型控制方法展开了研究,并取得了一些创新的结论和成果。1.对传统的混合处理系统(共轭式自适应光学系统+事后图像解卷积)进行了理论分析,得出复原图像的质量与波前校正器和波前探测器的性能密切相关。对变形镜的空间拟合误差进行了Zernike模式分析,得出了其在拟合低阶像差的同时会引入大量高阶衍生像差的特点,而哈特曼波前传感等效为一个低通滤波器,变形镜的校正残差特性会降低其波前复原精度,导致复原图像失真。本文在分析变形镜面形变化规律的基础上,提出了校正度(变形镜控制电压相对于传统方法控制电压的缩放比例)的概念,并基于此建立了优化控制方法,该方法在波前重构精度和整体波前残差RMS值之间寻优到最佳平衡点。理论分析和实验结果表明,该方法可实现复原图像质量的提升。2.考虑到传统的优化式自适应光学系统通常缺乏事后图像复原而导致成像质量无法获得进一步提升,本文在传统的优化式自适应光学系统的基础上,提出了两种结合了图像复原的混合处理系统,并均采用基于随机并行梯度下降(SPGD)法的控制方法。第一种混合处理系统中,自适应光学波前校正部分和图像复原部分相对独立,借助波前探测信息,计算出变形镜控制信号并作为迭代算法的初值,该先验知识可大大加快算法的收敛速度,迭代结束后,再次根据波前探测信息,并结合远场图像进行事后维纳解卷积,得到最终的复原图像。第二种混合处理系统中,图像复原环节被整体放入SPGD算法的迭代回路,算法的性能指标是复原图像的质量函数,其迭代收敛后,复原图像质量也达到最优。理论分析和实验结果表明,相比于传统方法,本文提出的两种方法在不同湍流条件下获得的校正效果均有显著提升,并体现出了优异的鲁棒性。3.某些特定Zernike模式在单位圆的同心孔径圆域内具有相关关系,其中具有较强负相关关系的模式组合在一定系数条件下叠加后,一定的同心孔径内的像差会相互抵消,这称为模式间的共轭性。受此启发,我们对自适应光学系统校正残差中的低阶、高阶两部分像差的相关性进行了分析,结果显示在均方误差值较大的残差波前中,这两部分像差会体现出明显的负相关关系,并在一定组合形式下呈现共轭性。基于该结论,设计了一种控制方法,该方法通过最优化方法确定最佳校正度来实现校正残差中低阶、高阶两部分像差系数的最佳匹配,此时残差波前在一定同心孔径内的像差均方根值会降到极值,实现该孔径范围内成像质量的提升。理论分析和实验结果表明,该方法可改善自适应光学系统在面对复杂像差时的成像能力,有效扩展传统自适应光学系统的适用范围。本文提出的高分辨成像系统的优化控制技术在提升自适应光学系统的光学成像质量或混合处理系统的复原图像质量方面具有应用价值,尤其是对于充分发挥自适应光学技术和图像复原技术相结合后的整体性能,提高最终复原图像的质量具有重要意义。