近年来,通过人工合成材料,人们获得了很多原本天然材料没有的独特光学特性。而现代纳米加工领域技术的发展,为精准的微观结构控制提供了可能性,使各种特殊材料结构更易实现,极大促进了特殊材料的研究。Faraday效应和Kerr效应是光学通信和光学记录领域中最重要的磁光效应。本文研究了拓扑绝缘体、陈绝缘体和手征特异材料这几种特殊材料的反射和透射光学特性,并讨论了各项参数对其光学特性的影响。具体工作如下:(1)本文首先对近年来热门研究的特殊材料进行了概述,并对其特性进行了简单介绍,然后介绍了光学特性的研究历史和研究现状。在第二章分别对手征特异材料、陈绝缘体以及拓扑绝缘体特性的特性和已有研究进行了综述,本文还用琼斯矢量法和传输矩阵法对特殊材料的旋转角以及极化转换率进行了计算。(2)本文推导了光从普通介质入射到二维陈绝缘体-手征特异材料分界面处的反射系数和透射系数,根据计算结果进一步研究了分界面处反射光的光学特性—Kerr效应。研究结果表明,入射光是线偏振,满足完全极化偏转条件可以实现TE→TM或者TM→TE。入射角大于临界角发生全反射时,两种介质反射光都为椭圆偏振,只能发生部分极化偏转。入射角小于临界角时,手征交叉耦合效应使反射光的偏振面发生旋转,并改变反射光的偏振态变为椭圆偏振;而陈绝缘体拓扑特性只能使反射偏振面发生旋转。在手征特异材料上增加陈绝缘体增大了反射光的极化偏转效应,在一定条件下能实现完全极化偏转。陈绝缘体的性质受频率影响,从而可以方便地得到想要的Kerr效应。(3)由于单层拓扑绝缘体透射光极化偏转很小,本文通过多层结构来增强透射光的Faraday效应。用传输矩阵方法计算了多层拓扑绝缘体结构的透射系数矩阵,并仿真了不同条件下的Faraday偏转角。通过在拓扑绝缘体上下表面覆盖磁性层来破坏时间反演对称性,在一定相同条件下,平行磁化的Faraday效应比反平行磁化更强,TM模式偏振光比TE模式偏振光入射时偏振面偏转角最大值更大。本文重点研究了层数、拓扑磁电极化以及材料参数对于平行磁化涂覆的多层拓扑绝缘体结构Faraday效应的影响。研究结果表明,线偏振光入射时,通过选取适当的层数和拓扑磁电极化值,透射光能够实现将近90°的较大偏转角。