目前,微纳尺寸复杂结构的制造方法主要有电子束光刻技术、超精密加工技术、飞秒激光诱导双光聚合技术等等,然而这些制造方法制造程序复杂,周期长,成本高。近年来,结合数字微反射镜器件（Digital Micromirror Device,DMD）的无掩模光刻技术被用于制作不同的光学微结构,因为DMD作为虚拟掩模代替实体掩模,可以简便、快速成型,无掩模光刻机已经在光学器件领域成为十分重要的制造设备。然而,投影透镜系统是DMD无掩模光刻的核心部件之一,其成像质量直接影响曝光图形的传递。改善光学系统成像质量的一个常用技巧是,将某些常规透镜的面型替换成非球面。在传统投影透镜系统的基础上,设计了衍射光学元件（Diffractive Optical Element,DOE）和非球面,优化了折/衍混合投影透镜系统,提高了系统的成像质量。本文通过对国内外DMD无掩模光刻投影物镜的设计和数字光刻系统的照明系统以及投影光学系统的设计进行研究和分析,结合非球面和衍射光学元件的光学特性、非球面的成像特性及像差特性,针对光刻线宽在2.16μm的较高精度要求,采用第三代DMD芯片作为空间光调制器（Spatial Light Modulator,SLM）,在传统投影透镜系统的基础上,采用单层衍射光学元件和非球面相结合的方法,设计了一种用于DMD无掩模光刻的折射/衍射混合投影透镜系统。在光学设计软件ZEMAX中进行优化仿真及像质评价。仿真结果表明,当DOE距离混合系统光阑前的前透镜组很近时,效果最优。该投影光学系统的像方数值孔径NA从0.33增加到0.45,理论最小线宽从4μm缩小到2.16μm,其放大倍率为-0.2,后工作距离为29.07 mm,透镜总长为196.97 mm。与传统的投影透镜系统相比,这种混合投影透镜系统的最大场曲从1.5μm减小到0.9μm,最大相对畸变从2×10-4%减小到1.5×10-5%,光斑图的最大均方半径从0.522μm减小到0.112μm。并且由于调制传递函数（MTF）值的提高,投影物镜可以收集更高频率的光从而提高光刻分辨率。另外,本文以光刻光源主波长为405 nm为例,为了能够在DMD上保持较高的均匀性照明,将DOE作为匀光器件引入到照明系统中,将高斯分布的光束整形为均匀化的光强分布。在MATLAB软件数值仿真下,利用角谱衍射理论和AA（Adaptive-Additive）算法设计优化了二维衍射光学束整形器件的相位分布。最终相对光强普遍维持在95%以上,从数值上说明了其较好的匀光效果。