近年来,由于新型光子学器件的潜在应用,光子自旋霍尔效应引起了人们的广泛关注。光子自旋霍尔效应是指一束空间受限的偏振光在两种不同介质表面发生反射或者折射时,由于相对论效应自旋-轨道耦合作用的存在,在其垂直入射面的方向发生一小段位移的现象。然而,这种偏移通常发生在亚波长尺度范围内难以测量,因此如何增强和调控光子自旋霍尔效应尤为重要。基于超材料在电磁特性调控方面的优异性能,本文提出了以双曲超材料为基元的棱镜耦合双曲超材料波导和对称双曲超材料波导两种结构模型,探讨了反射光的光子自旋霍尔效应特性。其中I型和II型两种双曲超材料（按介电张量的负分量分为两类）在本文中均得到考虑,它们均可通过亚波长厚度的等离子体和电介质层交叠来实现,也可通过将等离子体嵌入主体电介质矩阵中来构建。本文的主要工作及结论如下:（1）本文构建了一种由棱镜、双曲超材料、薄金属和空气四层介质组成的棱镜耦合双曲超材料波导结构,分析了反射光的自旋霍尔效应特性,探讨了双曲超材料和金属层的厚度对光子自旋霍尔效应位移的影响。结果表明:I型双曲超材料波导中的水平方向光子自旋霍尔效应位移得到了显著抑制,而II型双曲超材料波导中的水平方向光子自旋霍尔效应位移可以提高20倍以上。而在两种类型的双曲超材料波导中,垂直方向光子自旋霍尔效应位移的行为相似且受到明显抑制。此外,双曲超材料和金属层的厚度对光子自旋霍尔效应位移也有显著影响,特别是对于II型双曲超材料波导中的水平方向光子自旋霍尔效应位移影响较大。最后,我们还计算并讨论了不同工作波长下的光子自旋霍尔效应位移,并给出了实现光子自旋霍尔效应位移增强的最佳波导结构参数。（2）本文提出了一种基于双曲超材料-金属-双曲超材料的“三明治”式对称波导结构,探讨了光从空气入射到该波导表面处而发生的光子自旋霍尔效应特性。我们发现等离子体和电介质的交替亚波长层的多层结构和将等离子体嵌入主体电介质矩阵的结构,在不同的波长范围和不同的填充因子下,都可以表现出普通电介质、金属、I型和II型双曲超材料特性,这让我们同时实现I型和II型双曲超材料波导成为可能。结果表明:跟光子自旋霍尔效应位移有直接关系的rs/rp的比值显著依赖波导的类型以及双曲超材料的厚度。特别是在I型双曲超材料波导结构中,水平光子自旋霍尔效应位移可以增强数倍;而两种波导结构中,垂直光子自旋霍尔效应位移明显被抑制。此外,我们讨论了金属层厚度以及金属层的类型对其光子自旋霍尔效应位移的影响。结果表明:这两因素对其光子自旋霍尔效应位移的影响主要取决于双曲超材料的厚度。当双曲超材料厚度较小时,其影响比较弱;反之,当双曲超材料厚度比较大时,其影响比较明显。因此,我们可以得出结论:对于双曲超材料波导式的结构,双曲超材料的类型和双曲超材料的厚度是影响光子自旋霍尔效应位移的主要因素。