本文采用基于密度泛函理论的第一性原理方法，从理论上研究了拓扑绝缘体材料表面态的相关性质,为设计纳米尺度的物性调控提供了有益的理论指导和依据，得到了如下主要研究成果：1.应变引起的拓扑相变。基于第一性原理计算，我们研究了具有各向异性相互作用的Bi₂Se₃类材料的拓扑相变。通过施加不同的应变来改变Bi₂Se₃类物质中的相互作用，我们发现QL内的横向相互作用对它们的拓扑相影响很小，而QL间的纵向相互作用能够有效的调制它们的拓扑相。在我们研究的这类材料中，施加的纵向应变对它们的影响是非均匀的，即在QL内与QL间引起的相互作用效果不同。我们的研究表明决定Bi₂Se₃类材料拓扑相的自旋轨道相互作用主要来至于QL间相互作用。Sb2Se3的QL间距比Bi₂Se₃大，自旋轨道相互作用弱，前者是拓扑平庸的，后者是拓扑非平庸的。这使我们弄清楚了为什么具有同样晶体结构，且都含有重元素、小带隙的Sb2Se3和Bi₂Se₃的能带存在拓扑结构上的差别。我们提出了通过应变调节这类材料的拓扑相的方法，发现通过施加c轴方向的纵向压应变减小Sb2Se3的QL间间距，增大自旋轨道耦合强度，使得它由普通绝缘转变成拓扑绝缘体；而施加纵向拉应变可以增大Bi₂Se₃的QL间间距，减弱自旋轨道耦合强度，使Bi₂Se₃由拓扑绝缘体转变成普通绝缘体。类似的相变情形也发生在两类材料的薄膜上。2.拓扑绝缘体薄膜的表面和界面尺寸效应。基于范德瓦尔斯修正的密度泛函理论计算，我们研究了1QL～6QL厚度的拓扑绝缘体Bi₂Se₃和Bi₂Te₃薄膜的表面和界面效应。我们的计算表明，薄膜表层QL间间距弛豫显著，达到20%；内层QL间距弛豫不明显。随薄膜厚度增加，QL间间距逐渐趋于块体值。对于厚度较小的Bi₂Se₃薄膜（2QL～4QL），存在明显的表面态带隙，随厚度的增加薄膜的表面态带隙逐渐减小并最终闭合，这与实验观测符合的很好。我们还研究了石墨烯衬底对Bi₂Se₃薄膜表面态的影响，发现衬底会诱导显著的Rashba劈裂，随厚度增加劈裂效果越明显，并且与无衬底的情形相比，狄拉克点相对于费米能级发生了移动。Bi₂Te₃薄膜有相对较小的QL间间距弛豫效应和较强自旋轨道耦合作用，2QL的薄膜已经开始显现出无能隙的拓扑表面态，与实验观测一致。3.半导体衬底对拓扑绝缘体表面与界面态的调控。目前，由于拓扑绝缘体的费米能级难以调控至狄拉克点，它的许多重要且新奇的表面电子与自旋输运性质尚未在实验中得到观测。从实验的迫切需要出发，以Bi₂Se₃和Bi₂Te₃为对象，采用半导体异质节能带调整理论和第一性原理计算，研究常规半导体硅和砷化镓与拓扑绝缘体表面和界面态的作用，寻找调节拓扑绝缘体费米能级至狄拉克点的关键参数。通过第一性原理计算，我们研究了半导体对拓扑绝缘体表面与界面效应。首先，我们计算了不同厚度的拓扑绝缘体薄膜和半导体衬底的功函数。我们的计算发现当半导体衬底的功函数小于拓扑绝缘体薄膜的功函数时，拓扑绝缘体薄膜会从衬底得到电子，更高的能级将被填充，费米能级向上移动，费米能级相对于狄拉克点移动的幅度随薄膜厚度增加而减小。由半导体衬底引起的拓扑绝缘体薄膜费米能级的移动能够用功函数和电荷转移得到解释。随着薄膜厚度的增加，拓扑绝缘体薄膜的态密度也在增加，转移相同数目的电荷引起费米能级的移动幅度较小。