拓扑绝缘体(TIs)是近年来凝聚态物理以及材料科学领域的研究热点,特别是以(Bi, Sb)2(Se, Te)3为代表的铋基三维TIs材料更是引发了科学界的广泛关注。该类材料具有强的自旋轨道耦合作用,体内导带与价带之间存在能隙、表面为无能隙的导电态。这种独特性质使其在未来计算机电子器件领域具有广泛的应用前景,并极有可能为特殊物理现象的探寻提供材料平台。当前研究主要遇到非电中性缺陷引入载流子导致体态非绝缘、表面态被掩盖的问题,然而关于提高材料质量,认识材料缺陷及掺杂机理的工作尚不完善,这也成为了制约TIs发展的重要因素。本论文综合利用化学气相沉积(CVD)和分子束外延(MBE)等方法实现铋基拓扑绝缘体二元以及掺杂体系材料的高质量制备；通过高分辨像(HRTEM)、高角度环形暗场像(HAADF)和X射线能量色散谱(EDS)等透射电子显微分析技术在原子级别对材料的结构/缺陷进行表征,并探讨了元素补偿掺杂机理以及缺陷对性能的调控。具体研究内容及成果如下：(1)创新性制备出垂直于衬底并且规则排列的二维TIs纳米材料。本文利用溶剂热、CVD、MBE等方法制备铋基TIs纳米片、纳米线、薄膜等结构。通过对CVD反应温度、漏率等条件的调控,开发出方向可控的铋基纳米片生长方法。透射电子显微研究表明Bi2O3缓冲层和原子在气流、表面的扩散对立式铋基TIs纳米片的生长起到了至关重要的作用；Bi2Te3/Bi2Se3纳米片与Bi2O3缓冲层之间的界面剩余应力直接导致了立式纳米片成一维阵列式的排列。(2) 直观揭示了铋基TIs纳米片实际为棱台的三维构型。本文通过聚焦离子束加工仪(FIB)对纳米片的侧面做截面切片,进一步的HAADF、EDS分析证实,Bi2Te3Bi2Se3纳米片的侧面为(01-4)/(015)相关表面,并不是传统认识中的(100)/(110)。第一性原理计算发现(001)、(015)、(100)、(01-4)-Te及(01-4)-Bi表面单个原子对氧的吸附能分别为0.4,0.9,2.1,1.5和3.5 eV,即强氧吸附的动力学因素主导了(01-4)表面的出现。(3)创新性发展了一种制备具有特定取向的透射电镜截面样品的方法。本文联用电子背散射衍射仪(EBSD)与FIB方法成功制备出具有<100>取向的Bi2Te3透射电镜样品,从而在透射电镜分析中无需大角度倾转样品杆,保证了样品的稳定性以及X射线的接收率；结合ChemiSTEM球差校正透射电镜实现了铋基三维TIs的原子级别元素分析。(4) 解决了铋基TIs二元体系中存在的关键性结构问题。本文利用原子级别的元素分析手段解决了Bi2Te3中普遍存在、但颇有争议的7层结构的原子排布问题,并直观给出了7层结构的原子排布为Te-Bi-Te-Bi-Te-Bi-Te;第一性原理计算结果表明,Bi3Te4结构缺陷本身具有n型导电态,但对整体Bi2Te3薄膜则表现为受主杂质行为。此外,通过对Bi2Te3中孪晶界的研究,我们证实孪晶界面位于Te(1)-Bi-Te(2)-Bi-Te(1)五层原子的Te(1)原子层,并且所处的范德瓦尔斯间隙增大。(5) 实现了透射电镜对铋基TIs掺杂体系替位缺陷的直观表征与分析。本文通过元素掺杂制备出Se、Sb、Gr、Fe、Ca、Te元素掺杂的铋基TIs材料,以调控体内载流子突显表面态效应。透射电子显微研究表明Se掺杂的Bi2Te3满足“中间层取代”原则,但对Te掺杂的Bi2Se3,‘中间层取代”原则则不适用；进一步的理论计算从能量和键强两个角度佐证了这种结构的正确性。此外,不同浓度的Sb元素掺杂,使Bi2Te3由n型向p型的转变,实现对Bi2Te3载流子种类和浓度的调控；掺入Cr、Fe等元素引入了磁学性质；原子级别的电子显微分析直观证明了这些元素的掺杂调控主要来源于体系中的X-on-Bi (X=Sb,Cr,Fe,Ca)等替位缺陷。本文对铋基TIs材料的生长、表面结构、本征缺陷及元素掺杂引入缺陷的研究,可为高质量拓扑绝缘体纳米材料的制备、体内载流子状态以及拓扑性能的调控提供实验支持,并为拓扑绝缘材料在未来自旋电子器件和量子计算机中的可能应用打下坚实的基础。