随着集成光子电路的发展,光子器件逐渐向小型化与大规模集成的方向发展。硅基光子学的发展与绝缘体上硅工艺的成熟为大规模的光电集成创造了可能,逆设计方法作为机器学习应用于微纳光子器件设计领域的重要设计理论,在充分发挥现有制造工艺高精度刻蚀水平的同时,通过高效的智能算法实现器件结构的自动化设计,对于提高微纳光子器件的设计效率大有裨益。另一方面,随着集成规模的进一步提高,传统单层硅基芯片已经无法满足大规模微纳光子器件的集成需求。参考集成微电子学的发展历程,研究和发展3D集成光子电路是一种必然的趋势,对于大幅度提高集成光子电路的集成密度具有重要意义。同时,随着近年来对金属的表面等离子体激元效应和金属超表面技术的研究深入,金属材料越来越被广泛应用于微纳光子器件的设计中。将金属材料引入逆设计平台,对于进一步丰富现有逆设计平台的设计功能、提高传统金属超表面的设计效率具有重要意义。综上所述,论文围绕3D/多层结构逆设计平台与逆设计金属模型展开研究。论文的主要工作内容与成果如下:(1)在现有的2D平面结构设计的逆设计平台上,建立了3D/多层结构逆设计平台,并利用该平台提出并设计了一个3D集成光子电路中至关重要的多层通光器件——垂直光通孔。该器件尺寸仅有2.8μm × 2.8μm,在1550 nm处耦合效率为88.18%(即插损为0.55 dB),并具有高达260 nm的1 dB有效工作带宽;最后分析了初始化结构参数对垂直光通孔性能的影响,进一步优化了光通孔的通光效率。(2)基于3D逆设计平台,提出并设计了一个具有多层结构的偏振旋转器。该器件耦合长度仅2.8 μm,在1550 nm处有效消光比为25 dB(@1550 nm),最高消光比可达46.48 dB(@1516nm);插损为3.29 dB(@1550 nm),具有64 nm的2 dB有效工作带宽;最后对初始化结构参数对器件性能的影响进行了分析,进一步降低了偏振旋转器的插入损耗。(3)建立并验证了逆设计金属模型,将表面等离子体激元效应与金属超表面理论引入多层结构逆设计平台,并基于此分别设计了两种新型的偏振旋转器。基于表面等离子体激元效应的偏振旋转器在1550 nm处可以实现高达58.62%的转换效率;另外金属的加入明显加快了偏振旋转器的设计过程,对偏振旋转功能有明显的辅助作用;最后分析了初始化结构参数对器件性能的影响,进一步优化了偏振旋转器的转换效率。