拓扑绝缘体是一种新颖的量子态,该类材料具有绝缘的体能带电子态和受时间反演对称性保护的导电表面态,在自旋电子学,量子计算机,有效节能等方面有广泛的应用前景。三维拓扑绝缘体由于存在大量的缺陷其电子结构难以调控；由于其材料厚度远远大于电场的穿透深度,因此也难以利用外场对其电子结构进行调控。虽然通过掺杂可以改变三维拓扑绝缘体的能带结构,但这可导致其电子迁移率大大降低。二维纳米结构在这方面则有较大的优势：二维纳米材料1)具有较大的表面体积比率,可以有效降低体结构对载流子的贡献；2)仅少量的化学掺杂就可以非常明显地改变二维拓扑绝缘体的性质,使得实验上更加易于操作；3)可以有效利用电磁场调控二维拓扑绝缘体载流子浓度及其它性质,并且二维纳米材料有助于器件的加工与集成。因此,探索二维拓扑绝缘体纳米结构显得更加重要。近年来,以石墨烯为例的二维纳米结构引起了人们广泛的关注。目前,理论上发现了许多可以实现量子自旋霍尔效应的二维材料,如以HgTe/CdTe, InAs/GaSb为代表的量子阱,六角蜂窝状二维材料如类Bi(111)单层,III-V族化合物,甲基修饰的Bi, Pb, Sb单层,受镜面对称保护以SnTe为代表的IV-VI族二维单层或薄膜拓扑晶绝缘体,可以在应力的影响下实现拓扑晶体绝缘体与拓扑绝缘体之间转换的T1S, TISe单层。最近人们进一步发现以过渡金属元素为主的拓扑绝缘体如X2CO2(X=Cr, Mo, W), MoS2,方形过渡金属硫族化合物(square transition-metal dichalcogenides) MX2 (M=Mo, W; X=S, Se, Te),六角过渡金属硫族化合物MX2(M=Mo, W; X=S, Se, Te)以及由结构畸变引起能带翻转的MX2(M=Mo, W; X=S, Se, Te)。近期人们又发现三维拓扑绝缘体Bi2Se3在向二维体系过渡的过程中,当厚度减小到几个纳米时,其能带、自旋结构和拓扑性质都会发生根本性的改变。通过精确控制材料厚度来调节材料的参数,可以得到相应拓扑绝缘的电子结构和自旋结构。与HgTe/CdTe量子阱不同的是这个能隙是随着薄膜厚度按指数振荡变化的。因此,这将是HgTe/CdTe量子阱之外的另一类新的准二维拓扑绝缘体材料。这类准二维体系形成的结构亦即纵向异质结结构,但是,由于纵向异质结构层之间是以较弱的范德瓦尔斯力作用的,因此,不同结构层之间的相互作用受到了一定的限制。近来,与纵向异质结构相对应的横向异质结构引起了研究者的广泛关注。与纵向异质结不同的是,横向异质结之间是以更强的共价键连接的,这使得不同结构层之间的相互作用大大增强。本论文基于第一性原理密度泛函理论,研究了两种二维拓扑绝缘体材料的电子结构,并构造了一种横向异质结结构,进而发现了比较新奇的物理效应：本论文共分为五章：第一章,简要介绍了拓扑绝缘体的机理,概括叙述了二维拓扑绝缘体的研究背景和现状。第二章,简单介绍了密度泛函理论的基本概念,交换关联泛函中平面波基组与赝势的基本框架,同时对广义梯度近似进行了介绍。第三章,从理论上系统研究了以Bi(111)单层为基础进行掺杂得到的XBi3(X= Ga, In, T1)单层结构,并对其能带和结构变化进行了详细分析和研究,提出了可能存在预示发生拓扑相变的能带翻转。通过对材料进行Z2拓扑不变量计算肯定了GaBi3 与 InBi3分别为具有较大带隙的二维拓扑绝缘体。通过构造纳米带结构我们得到了具有手征性的导电边缘态,并且研究了拓扑体效应和量子限制效应对于手征边缘态形成的影响,并利用应力研究了拓扑体效应和量子限制效应的竞争关系。此外,通过研究应力对于带边态电子费米速度的影响,我们提出了在材料足够长并保证拓扑性质的前提下,拉力更有利于电子的迁移。第四章,以大带隙GaBi单层为基础,我们构造了T-Ga2Bi2单层,研究发现结构的变化使得T-Ga2Bi2体系的稳定性大大提高,并且在Γ点处的带隙增加至1.477eV。由于能带翻转的强度预示着材料拓扑性的强度,此处的超大带隙表明T-Ga2Bi2材料具有极高的拓扑保护性,同时,这一特征还表现在当T-Ga2Bi2纳米带宽度仅有1.7nm时,体系仍然保持良好的线性边缘态。进一步研究发现以BN可以作为T-Ga2Bi2良好的基底,而应力对于T-Ga2Bi2结构的影响极小。通过构造纳米结构的氧原子桥,我们在纳米带内部构造了一维导电态,并且发现氧原子桥两边T-Ga2Bi2结构的对称性对于导电态的散射结构有极大的影响：当结构为反对称时,一维导电态是抛物线型散射结构。而对称结构时,一维导电态具有手征性的线性散射结构,此时的导电态受体系的拓扑保护,为拓扑绝缘体中熟知的“单向导电通道”。最后我们构造了T-Ga2Sb2/T-Ga2Bi2/T-Ga2Sb2横向异质结结构,并且发现虽然T-Ga2Sb2不是拓扑绝缘体,但是当形成上述的横向异质结时,T-Ga2Sb2由于近邻效应(Proximity effect)而发生了拓扑相的转变,这与2013年人们在Sb2Se3/Bi2Se3/Sb2Se/纵向异质结中发现的效应具有类似的情况。第五章,对论文进行了总结,并对以后的工作进行了展望。拓扑绝缘体不仅在概念上提高了我们对凝聚态物质的认识,它本身新奇的物理效应更是引起了人们的关注,并且由拓扑绝缘体与其他具有奇异性质的材料,如超导,铁磁材料形成的横向或纵向异质结有可能会出现新奇的物理效应。