近年来,拓扑绝缘体作为一种新的量子物态受到广泛关注。从电子能带结构角度而言,拓扑绝缘体可直接进行实验观测的是其特殊的表面态。拓扑绝缘体的表面态奇数次穿越费米能级,受到时间反演对称性的保护,在没有磁性杂质的前提下,表面态永远保持金属性。最典型的拓扑表面态是具有自旋—动量锁定特性的螺旋型狄拉克圆锥能带结构,其中的电子在确定的动量位置有确定的自旋取向。拓扑绝缘体在未来电子学和自旋电子学方面有重要的潜在应用前景。同时,受到拓扑绝缘体研究的激励,拓扑超导体的研究也蓬勃发展,拓扑超导体的研究有望为拓扑量子计算提供可能的载体。本文利用高分辨率角分辨光电子能谱结合分子束外延,针对Bi（111）薄膜、单层Bi（111）/单层Bi₂Se₃复合薄膜以及Na_1-yCoO₂单晶的表面及界面电子能带结构及其拓扑量子态进行了深入而系统的研究,主要结果如下:一、实验上发现在Bi₂Te₃基底上外延的30nm厚Bi（111）薄膜具有拓扑非平庸的特性。利用分子束外延的方式,我们在Bi₂Te₃基底上制备了高质量的Bi（111）薄膜,利用高分辨率角分辨光电子首次在表面布里渊区边界M点处观测到一条新的表面态能带,该能带和之前研究中普遍确认的另一条自旋劈裂表面态能带简并于M点,满足Kramers定理的要求。通过该能带的发现,我们确认30 nm厚Bi（111）/Bi₂Te₃薄膜的表面态能带5次穿越费米能级,呈现出非平庸的拓扑特性。结合观察到的体能隙结构,我们认为30nm厚的Bi（111）/Bi₂Te₃薄膜是一种三维拓扑绝缘体。二、首次实现由单层Bi（111）和单层Bi₂Se₃（111）构成的异质结构薄膜分子束外延生长。独立的单层Bi（111）薄膜和单层Bi₂Se₃（111）薄膜都是具有能隙的二维半导体。当两者复合之后,由于界面效应,电子结构发生重大变化。在第一性原理计算的支持下,我们利用角分辨光电子能谱在该异质薄膜中发现类似拓扑绝缘体表面态的螺旋型狄拉克圆锥。理论计算表明,两层薄膜的界面处因为电荷转移而形成了强大的内部电场,该电场在Bi层中诱导了极大的Rashba型自旋—轨道耦合,从而将Bi的能带劈裂,出现螺旋型狄拉克圆锥电子结构。通过两种有能隙体系的复合构造出无能隙的螺旋狄拉克圆锥,为研究螺旋狄拉克圆锥的调控和探索未来的应用提供了一种新的思路。三、利用角分辨光电子能谱结合自旋分辨光电子能谱,发现层状钴氧化物Na_1-yCoO₂中存在特殊的表面态结构。通过和已有的第一性原理计算结果的细致对比,我们认为该表面态和理论预言的表面态具有相同的物理起源。该表面态的出现是因为表面上空穴掺杂浓度和体内不同导致。自旋分辨光电子确认该表面态具有自旋极化特性。Na_1-yCoO₂中表面态的发现,为最终在Na₁CoO₂表面上构建半金属性表面态提供了可能性。Na₁CoO₂中半金属的表面态是通过超导体/Na₁CoO₂异质结构实现拓扑超导态的物理基础之一。