贵金属微纳结构与外来光场的相互作用主要体现为表面等离激元共振(surface plasmon resonance,SPR),因此这种微纳结构也常常被称作为表面等离激元微纳天线(plasmonic nanoantenna,PN)。PN是光学超材料和超表面的基本构成单元,对PN光学特性的研究是设计功能型超材料和超表面的必要前提。与此同时,光子系统与电子系统在很多方面具有类比性。利用PN对光波的灵活操控常常可以模拟一些凝聚态物理系统中的量子现象。反过来,这种量子—光子学类比也会对PN的光学性质产生强烈的影响。PN与传统微波及射频天线在机制机理上有许多不同之处,为充分考察其特殊性(如极大的近场增强,灵活可调的共振频率等),利用量子-光子学类比来设计和研究PN的特性被证明是可靠和有效的,但目前这一类的研究探索显得非常不足。本文的研究目的为探讨微纳光子学中几种典型的量子-光学类比对PN的模场性质、散射特性以及相关光致力学效应的调控作用。论文工作以PN中的多模相互作用导致的Fano共振、电磁诱导透明、旋磁矩共振以及光子的自旋-轨道耦合效应为主线展开了以下的研究内容:(1)探讨了PN中由金属部分产生的不同阶电多极子SPR天线模,以及它们之间的相互作用。特别重点研究了其中由类量子相干效应Fano共振导致的光致力学效应。采用Maxwell张量积分法对支持Fano共振的二聚体型PN中的光力进行了严格的计算。发现Fano共振会导致金属天线臂间的光致成键力发生符号的反转,并通过模场分析阐明了两类反转点的产生机制。进一步对具有多光学暗态Fano共振PN中的光力性质进行了研究,结果表明这种由Fano共振导致的光力反转效应具有一定的普遍性。(2)对PN中与介电狭缝层有关的磁共振腔模的性质进行了研究。讨论了圆盘型金属-介电-金属(metal-dielectric-metal,MDM)贴片型PN中腔模的产生机制,及其宏观光学性质。结合腔模的模场性质和多极子响应,证明腔模中包含磁多极子共振和磁旋偶极子共振。进一步,比较了侧壁开放型和闭合型PN中的腔模性质。发现侧壁金属包层能够破坏甚至消除磁多极子模式,使腔模全部具有涡旋状的磁场分布。最后,给出了预测不同几何尺寸PN中各个腔模共振频率的理论方法。对共振频率不超过600 THz的腔模,理论预测与全波数值计算结果的偏差小于5%。(3)以前两部分的研究结果为基础,研究了PN中天线模和腔模的相干现象。通过调节偶极PN的几何尺寸和负载介电材料,PN中的天线模与腔模能够发生耦合作用。结果表明,角量子数为1的磁偶极腔模与天线模产生正交累加的散射增强效应;角量子数为0的磁旋偶极腔模与天线模发生模式竞争作用,产生具有电磁感应诱导透明(electromagnetic induced transparency,EIT)特征的散射透明现象。采用数值和理论相结合的方法,系统的研究了天线模和腔模的共振频率随PN几何及材料参数的变化关系,提出了独立调节天线模或腔模共振频率的有效方案。(4)沿着量子-光子学类比这一思路,初步研究了PN中与SPP横向自旋有关的自旋-轨道耦合效应。主要包括SPP的单向性激发和自旋相关的PN散射方向调控。分析了圆极化电偶极子(circular polarized elelctric dipole,CPED)和满足Kerker条件的K偶极子辐射场特性。理论上指出CPED和K偶极子都能够产生表面波的单向性激发,全波仿真结果验证了理论分析的正确性。进一步,以纳米球-纳米线耦合型PN为例,指出了SPP的自旋-轨道耦合效应可用来调节PN的散射方向。量子—光子学类比极大的丰富了PN中的光子学现象,对PN以及由其构成的光学超材料的应用研究有重要意义。本论文的研究结果为设计和调控PN的光学性质提供了更灵活的方案。同时,研究结果对理解相应的量子效应有一定帮助。研究结果可应用于基于PN的光学微操控,高灵敏光学传感,散射隐身,结构光的产生和调制,基于自旋概念的光波定向发射等。