拓扑绝缘体由于具有很多奇异的量子特性，近年来已成为物理学的研究热点及前沿之一。对拓扑绝缘体的深入研究对于实现电子输运的反弱局域化效应、反常量子霍尔效应、拓扑磁电效应、磁单极子、Majorana费米子与拓扑超导体等奇特性质有很大的帮助。因此被认为在自旋电子学、低能耗自旋电子器件、容错量子通信、量子计算等方面有着重要的意义和广泛的、潜在的应用前景。由于拓扑绝缘体(TI)这些奇异的物理性质和潜在的技术应用，拓扑绝缘体一直处于一个非常活跃的研究领域的核心。在众多拓扑绝缘体材料中，第二代三维拓扑绝缘体Bi2Te3，Bi2Se3和Sb2Te3因为具有较大体带隙和最简单表面Dirac能谱，在凝聚态物理和材料物理等领域引起了广泛关注。然而实际中，可制备的Bi2Te3，Bi2Se3和Sb2Te3材料中却存在着大量的本征缺陷，表面态被埋在块材中，这使得拓扑绝缘体材料奇异物理现象的实现受到影响，因此，如何抑制拓扑绝缘体材料Bi2Te3，Bi2Se3和Sb2Te3的本征缺陷并实现对电子结构的有效调控成了该研究领域亟待解决的问题。本文采用基于密度泛函理论的第一性原理方法系统探究拓扑绝缘体薄膜材料的电子结构和磁性，得到了一些有意义的理论结果。期望这些理论结果能解释一些实验现象和物理本质，为拓扑绝缘体材料电子器件的制备、设计和调控等相关实验研究提供理论指导。1.硫原子覆盖对拓扑绝缘体Sb2Te3薄膜拓扑表面态的钝化作用。研究了S原子在拓扑绝缘体Sb2Te3(111)6QL薄膜表面吸附与替代对拓扑表面态的影响。研究发现对于对称吸附，S起到了钝化作用，单一狄拉克锥型的表面态稳定存在；对于单侧吸附，结构的对称性被打破，来自上、下表面的Dirac Cone表面态的简并被破坏，来自上、下表面的Dirac Cone沿着高对称点方向发生移动。对称替代表面最外层Te原子时，狄拉克锥型的表面态仍稳定存在，拓扑性质保存完好，S的对称替代很好的保持了拓扑表面态。和S的单侧吸附相比，S的单侧替代重构了结构的对称性，使得S的单侧替代，对Sb2Te3的拓扑表面态的影响较小，拓扑性质保留。我们的理论结果验证了拓扑绝缘体的拓扑表面态对非磁杂质的免疫能力，但同时结构的对称性也需考虑。2.磁性原子掺杂对拓扑绝缘体Bi2Se3薄膜电子结构的调制和诱导磁性的研究。研究了过渡金属原子（Cr和Mn）在拓扑绝缘体Bi2Se3薄膜上表面吸附和掺杂的电子结构和磁性。研究发现磁性原子能诱导自旋极化，产生磁矩（Cr诱导的净磁矩为2.157B，Mn诱导的净磁矩是1.730B）。通过DOS分析，发现Cr的3d态和Se的4p态产生了p-d杂化，Mn的3d态与Bi的6p态产生了p-d杂化。磁性原子的掺杂打破了局域时间反演对称性，使得上表面的能带发生劈裂，来自上表面的Dirac Cone消失，而未经掺杂的下表面的拓扑表面态仍然存在，费米能级上移至体带隙中，狄拉克锥相对费米能级下移。为实现绝缘有质量Dirac费米子提供了条件，同时磁性粒子的单侧掺杂对避免有限尺寸的拓扑绝缘体薄膜上下表面的相互作用、保留无带隙的孤立表面态的研究有一定的指导意义。3. Tl原子的掺杂对拓扑绝缘体Bi2Se3薄膜电子结构的调制作用。研究了Tl原子的表面吸附和替位掺杂对拓扑绝缘体Bi2Se3电子结构的调制，Tl的单侧吸附能诱导Bi2Se3薄膜能带结构的Rashba劈裂，来自上下两个表面的表面态的简并消失，上下表面形成的Dirac Cone型的表面态仍然存在，但是上表面形成的Dirac Cone下移到了价带中，下表面形成的Dirac Cone仍然在带隙中，费米能级上移进入导带，因此Tl原子的吸附对Bi2Se3薄膜的能带结构的调制不是很理想。但是当Tl原子替代掺杂第一QL中第二层Bi原子时，一个理想的孤立的Dirac Cone出现，并且Dirac Point出现在费米能级处，我们的研究给出了对拓扑绝缘体薄膜能带调制的一种可行方案。