近年来,几何拓扑相关物理领域受到人们广泛的关注,特别是在光学领域,拓扑光子学俨然成为目前的研究热点。光子晶体作为光学系统中最常见的研究对象,在模拟演示电子系统中基本物理现象方面扮演着重要的角色。然而,光子作为玻色子与电子具有迥然不同的基本性质,这使得在拓扑光子学的研究不能完全照搬电子系统的思路。目前,实现光学系统中的拓扑现象主要面临着两大问题:一是如何在光学系统中制造有效的光子自旋自由度;二是如何在光学系统中实现自旋轨道耦合和新颖的拓扑物质态。本文围绕着这两个问题展开详细的研究和讨论,主要内容包括:一、在全介质核-壳光子晶体中实现光学量子自旋霍尔效应根据光子晶体中的紧束缚方法,二维核-壳结构的三角光子晶体可以通过结构尺寸参数的调节实现不同光子能带之间的偶然简并。其中,三角晶格的C6对称性可以在Г点产生两对宇称相反的二重简并态,这两对二重简并态在特定参数下可以形成四重简并的双Dirac点。基于这点,我们通过参数调节打开了双Dirac点的能隙,并且根据在Г点能带宇称排序,定义光子拓扑绝缘体及普通光绝缘体,并绘制出结构尺寸参数以及材料参数下光子晶体的拓扑相变图。通过对拓扑光子晶体边界态的数值计算发现,边界处对称性的破缺会导致在螺旋边界态能谱在交叉的地方打开一个能隙,这点与电子系统中受Kramers定理保护的交叉点不同。二、利用C6点群对称性在三维光子晶体中实现光学Dirac点及Weyl点通过设计由两个中空介质柱及六根连接介质柱构成的三维六角晶格光子晶体,可以将二维核-壳结构推广到了三维光子晶体。根据晶格对称性分析及k·p哈密顿量,我们证实了出现在ГA高对称线上的一对Z2拓扑Dirac点,对应于二维系统的拓扑相变点。这种受C6点群对称性保护的Dirac点存在于相当广泛的参数空间内;当空间反映对称性破缺后,这一对Z2拓扑Dirac点则会演化成两对手性相反的Weyl偶极子,出现和其他Weyl点系统不同的物理性质。我们指出在空间反映对称性破缺的系统中,Weyl点附近所激发出的能态具有确定的角动量,由此导致的角动量-波矢锁定更是许多物理现象的本质所在,在光学系统中可通过透反射实验测量证实。三、利用非点群对称性实现三维光子晶体中的不同光学拓扑节点/线以螺旋转动为代表的非点群对称性可以有效地实现光子晶体能带在布里渊区内的面简并,为产生更稳定的三维拓扑光子晶体提供新的方法。基于此,我们首次在光子系统中发现了第II型的Dirac点和Weyl点,以及在低频段光子晶体中必然存在拓扑节线;通过对称性分析及k·p哈密顿量分别证实了在kx-kz平面上存在的锥状光学色散,以及kx-ky平面上存在着奇异的光学色散结构。同时,第I型和第II型Dirac点所具有特殊的光学性质也相继被揭示出来。此外,这种非点群对称性光子晶体的Z2拓扑表面态可以局域在介质表面,十分稳定,可以用在相关光子器件中作为开放微腔,为后续光与物质相互作用的研究提供新的思路。