三维拓扑绝缘体是一类具有体态绝缘而表面态导电的新型量子材料,其表面态由无质量的狄拉克费米子体系构成。由于受到时间反演对称性保护,表面态不易被非磁杂质破坏。本论文主要利用电子输运手段并结合噪声谱测量,详细研究了超薄拓扑绝缘体的制备和基本输运性质、纳米尺度拓扑绝缘体霍尔探测器的性能、干法转移制作的双栅器件中的表面态的量子输运性质。此外,本论文还研究了磁性外尔半金属候选材料反常霍尔效应的量子修正。具体主要实验结果概括如下:1、利用自主搭建的化学气相沉积系统生长了微米尺度的拓扑绝缘体薄片,最小厚度可达3 nm。在一个厚度约为4 nm的样品中,观测到了低磁场符号为正和高磁场为负的磁电阻。结合霍尔电阻等其他测量,我们认为高场负磁电阻来源于低温下较大霍尔电导影响下的一个半经典效应。2、基于拓扑绝缘体制作了宽度最小为W=70 nm的霍尔效应探测器,在广域的温度和磁场范围内获得了较好的线性霍尔响应。在4.2 K温度下,磁矩分辨能力原则上可以达到10⁵μ_B/Hz^1/2量级（1 Hz）。与微米尺度的样品对比,器件小型化并未显著增强噪声水平(正比于S_RHW²,即霍尔电阻的噪声功率谱密度与霍尔器件有效面积之积),这说明基于拓扑绝缘体的霍尔探测器还有进一步的改进空间,有望实现超越半导体霍尔传感器的磁矩探测分辨率。3、利用自主搭建的全电控高精度转移平台制作了拓扑绝缘体（Bi,Sb）₂（Te,Se）₃双栅调控器件。在实现良好栅压调控性的基础上,研究了表面态的量子输运性质随化学势变化发生的演变。在化学势较高的量子扩散输运区,磁电阻表现出典型的反局域化特征,电子退相干速率具有线性的温度依赖关系,与传统二维电子系统的特征相一致;在接近狄拉克点的区域,观察到磁电阻仍然为正,但已明显偏离Hikami-Larkin-Nagaoka理论所能描述的反弱局域化行为。更有趣的是,低温下的表面态电阻只有在接近狄拉克点的区域才呈现出金属性的温度依赖关系,这可能为电子-电子相互作用下拓扑保护依然有效这一理论预言提供了证据。4、利用层状磁性材料MnSb₂Te₄在低温下近乎方形的磁滞回线和较低的饱和磁场,研究了量子修正对反常霍尔效应的影响。结果表明,在4 K以下的温区,反常霍尔电阻和纵向电阻都呈现出ln T的温度依赖关系,而反常霍尔电导的低温修正却可以忽略。由于样品中的弱局域化效应可以被排除,纵向电阻和反常霍尔电阻的低温修正可归因于电子-电子相互作用。实验结果与W?lfle等人的理论有很好的吻合。