拓扑绝缘体成为最近几年凝聚态物理研究领域中的一个热点材料,主要是因为：1)拓扑绝缘体体态是一个经典的能带绝缘体；2)拓扑绝缘体表面存在金属性的二维表面态。与经典薛定谔型二维电子气相比,拓扑表面态的电子具有以下特征：1)无质量的狄拉克型电子,且呈线性色散关系分布；2)受到时间反演对称性的拓扑保护,对非磁性杂质以及晶格缺陷具有完全背散射禁戒特性；3)拓扑表面态电子具有高度的自旋螺旋极化特征。理论研究表明,对拓扑绝缘体材料的调控可以实现诸多奇特的物理学效应,如：1)对拓扑绝缘体的磁性掺杂可以产生磁性拓扑绝缘体,从而可以作为研究量子反常霍尔效应和拓扑磁电效应的理想材料；2)对拓扑绝缘体进行调控可以形成拓扑超导体,在拓扑超导体的边缘产生Majorana费米子边态。拓扑绝缘体是研究狄拉克费米子物理的理想平台,在开展自旋电子学和拓扑量子计算研究方面具有极其重要的物理学研究价值。然而,与理论预期和实验期待相比,高拓扑表面态占比的拓扑绝缘体材料和高载流子迁移率的磁性拓扑绝缘体材料仍未能获得较大进展。这也是笔者选择“Bi2X3三维拓扑绝缘体的晶体生长、功能掺杂及输运调控”作为博士工作的主要原因。总结硕博连读期间的三维拓扑绝缘体研究工作,所获得的研究成果主要总结为以下三部分：(1)采用熔融法生长多种高质量三维拓扑绝缘体材料,包括二元三维拓扑绝缘体单晶Bi2Te3,Bi2Se3以及三元的Cu掺杂的Bi2Te3单晶以及Sm掺杂的Bi2Se3单晶。相对于经典的布里奇曼方法、浮区法和电弧法等晶体生长方法,熔融法具有操作简单和设备价格便宜的优点。更重要的是,熔融法在生长熔点900℃附近的高晶体质量三维拓扑绝缘体材料方面也具有很高的可靠性。这对我们快速获得大量拓扑绝缘体材料有巨大帮助。得益于这一材料生长技术的运用,一系列Cu元素不同掺杂浓度的Bi2Te3单晶被生长出来,为开展综合输运测试和STM动力学过程分析做好充足的材料准备。对一些列不同Sm元素掺杂浓度的Bi2Se3单晶开展综合磁学和输运测量,我们发现了新的磁性拓扑绝缘体材料。此外,我们还生长了大量的三元和四元三维拓扑绝缘体材料,为化学气相沉积和机械剥离法制备介观三维绝缘体器件提供充足的原料准备。(2)在时效处理的Cu掺杂Bi2Te3样品中输运观察到了来自表面态的拓扑输运,通过STM表征结合第一性原理计算揭示了Cu原子的扩散——隧穿——团簇的动力学过程。通过绘制SDH振荡的Landau-fan-diagram得到了0.43的贝利相位和分析零磁场附近的WAL效应得到退相干长度的温度衰减指数为0.5确认了二维表面态的拓扑属性输运。时效处理的过程可以使得样品(Cu0.1Bi0.932Te3.06的体相载流子迁移率下降了近四个数量级。STM/STS测试证实样品(Cu0.1Bi0.9)2Te3.06在长时间时效处理后费米面位于导带底以下60meV和价带顶以上100meV的位置,和样品的负温度电阻特征相一致。这说明时效处理是实现拓扑绝缘体材料优化的一种有效途径。STM观察到掺杂体系中Cu原子留下了不同寻常的缺陷和时效处理过程中Cu原子的动力学过程。借助于第一性原理计算,我们完整模拟了Cu原子在时效处理过程中扩散——隧穿——团簇的动力学过程。计算结果显示：Cu原子在Tel和Te2层内方向可以自由迁移,而在Tel层向Te2层扩散时遇到Bi原子位置0.57eV能量位垒；足够长时间的时效处理过程,使得Cu原子在频繁撞击能量位垒过程中获得一定的几率迁移到范德瓦尔斯层中。最终在Tel层中形成稳定的Cu团簇,同时在QLs内部留下晶格缺陷,导致体相载流子迁移率的下降,从而达到增强拓扑表面态的效果。(3)成功制备了一种高载流子迁移率的磁性拓扑绝缘体材料,(SmxBi1-x)2Se3。当x=0.05时表现出明显的铁磁性,且易磁化方向为面内易磁化方向,居里温度约为50K,矫顽场约为500Oe。XMCD确认了体系铁磁性来自于Sm元素。X射线光电子谱(XPS)证实钐元素的价态为+3价。物理特性测试系统(PPMS)输运测量和第一性原理计算证实(SmxBi1-x)2Se3存在强铁磁性相互作用机制。这表明磁性拓扑绝缘体材料(SmxBi1-x)2Se3是开展量子反常霍尔效应以及拓扑磁电效应的理想平台。第一性原理计算结果还显示：钐元素的4f电子能带发生了明显的劈裂,其中一支位于硒化铋体带能带的价带边缘处,(SmxBi1-x)2Se3的费米面位于体带之中表现出金属性。这给MBE技术结合门电压调控实现绝缘的(SmxBi1-x)2Se3磁性拓扑绝缘体创造了条件。