磁性掺杂拓扑绝缘体量子阱薄膜是研究拓扑绝缘体多种新奇量子现象的一个重要体系。在本论文中，利用分子束外延技术（MBE）、扫描隧道显微镜（STM）、角分辨光电子能谱（ARPES）以及电输运等技术，对磁性掺杂的拓扑绝缘体薄膜的制备、电子结构及电学、磁学性质进行了系统研究，论文取得的主要成果如下：（1）利用MBE技术在蓝宝石（sapphire）及钛酸锶（SrTiO₃）等多种绝缘基底上制备出了高质量的单晶本征及磁性元素铬（Cr）掺杂的Bi₂Se₃、Bi₂Te₃、Sb₂Se₃和(Bi_1-xSb_x)₂Te₃，Bi₂(Te_1-xSe_x)₃薄膜，实现了对层厚和化学势的精确控制。（2）系统研究了Cr掺杂Bi₂Se₃、 Bi₂Te₃、 Sb₂Se₃、(Bi_xSb_1-x)₂Te₃和Bi₂(Se_xTe_1-x)₃薄膜的电子结构和输运、磁学性质。发现Cr掺杂的Te基拓扑绝缘体具有长程铁磁序。通过掺杂或场效应改变其载流子浓度和类型，我们观察到其铁磁性基本不受影响。这表明在这些材料中可以实现铁磁绝缘相，很有希望观测到量子化反常霍尔（QAH）效应。在Cr掺杂的(Bi_xSb_1-x)₂Te₃薄膜中，观测到随载流子浓度的降低反常霍尔电阻急剧增大，最大值可达0.6个量子电阻（h/e²,²5.8kΩ），这很有可能是QAH效应出现的先兆。在Cr掺杂的Se基拓扑绝缘体中没有观测到长程铁磁序，结合ARPES、STM以及第一原理计算，我们认为这一方面是由于Cr原子在Bi₂Se₃中的聚集（低掺杂情况），另一方面是由于Cr掺杂降低了体系的自旋轨道耦合强度，能带反转消失，从而破坏了范夫勒克铁磁耦合机制的作用（高掺杂情况）。此项研究从实验上证实了通过范夫勒克机制可以在磁性掺杂拓扑绝缘体中实现铁磁绝缘相，并给出了实现长程铁磁序的必要条件。（3）利用拓扑绝缘体的无能隙Dirac表面态是由体能带的拓扑性质决定的独特性质，通过在拓扑绝缘体表面外延不同的覆盖层（单层Bi（111）或者单层拓扑绝缘体薄膜），在不破坏拓扑绝缘体基本性质的情况下，我们实现了对Dirac表面态电子和自旋结构的调控。此项研究提供了一种分别调控拓扑绝缘体的表面和体电子结构的方法。