层状材料因其低维性(二维或准二维)在低温下呈现出许多奇异的电子态行为：超导电性,量子霍尔效应,电荷密度波,庞磁电阻,电荷或轨道有序,金属绝缘体转变等。对这些奇异现象的测量和理解一直是凝聚态物理前沿且基础的课题。层状材料涵盖了当前研究热点的石墨烯体系材料、高温超导体和新近发现的铁基超导体、拓扑绝缘体,低温下发生电荷密度波现象的过渡金属二硫族化物(比如1T-TiSe2)等等。扫描隧道显微镜(STM)因其具有实空间原子级别的分辨率,尤其适合从事此类材料的表面物性研究。为此,我们自制了一套低温STM专门从事上述问题的研究。低温(液氦或液氮温区)是凝聚态领域研究物性必不可少的一个物理维度,但它也带来了一系列的诸如压电材料性能急剧下降、低温液体振动等问题。这些问题会直接影响STM的压电马达能否正常工作、STM的成像质量优劣等事关STM成败的基础性指标。为了解决上述问题,我们进行了两项先导性的探索(本文第四章)。其一,我们提出了一种普适无畸变的螺旋线扫描,与传统的逐行扫描不同,它能够：①给出样品真实的晶格结构；②通过我们提出的自矫正理论,确定图像漂移大小与方向；③实现快速扫描成像。更重要的是当遇到未知样品时,它对正确认识其晶格结构,起到传统扫描方式无法替代的作用。目前,该项工作已发表在国际著名仪器期刊Rev. Sci.Instrum.上。后该文主要内容又被全球知名出版商Taylor&Francis出版的Fundamentals of Picoscience一书录用在第17章(该章由我的导师陆轻铀教授受邀撰写)。其二,为了解决低温下压电马达需要高电压控制这一困扰人们的问题(高压意味着更高的电子学噪音及高至8倍以上研发成本),我们以堆栈与管式惯性马达为载体,发现两者的驱动信号加一段短暂延时能够显著提升其性能(步长与启动电压)。结果通过理论模拟,发现这个现象的根源是压电材料的蠕变效应,也解决了此间长期存在的争议。这一成果也已发表在Rev. Sci. Instrum.上。在研制仪器过程中,许多切实而重要的问题也需要一一克服,比如我们需要对微弱的隧道电流信号(纳安级别)进行放大,还要完成真空环境下样品的制备、探针与样品的更换以及对整个装置减振隔音与屏蔽设计。依循上述的种种问题并基于仪器的基本原理我们研制了一套具有原子分辨率的STM(本文第二章)。它具备以下独特的优势与特点：(1)独立于压电马达的可分离式扫描结构,因而隧道结获得了更高的稳定性；(2)全新的旋转悬吊式机构,使低温STM装置不再受限于楼层高度,是低温STM一大技术突破；(3)可原位处理样品；(4)真空中高可靠的更换探针与样品机构；(5)优于20fA电流分辨率的前置放大器；(6)独特的磁吸式降温方式以及低成本方式的可连续低温实验。经过实验表明,我们设计的STM能够获得高清的原子分辨率。在低压下能够实现步进,可以精确定位感兴趣的区域进行扫描成像。低温温度能够达到12K,真空度可以达到超高真空水平。由于自主研发的STM在控制方式方面的独特性,客观上需要我们开发仪器控制软件。第三章详细介绍了由我本人开发基于Labview的扫描探针显微镜(SPM)控制软件。与商业软件不同,该软件可以很容易地兼容到各种SPM上,因此它特别适合各种自主开发的该类设备。经过实际测量表明,该软件可以很友好地应用到我们自主研制的SPM上,包括扫STM,原子力显微镜以及磁力显微镜等。目前利用该套STM控制软件,能够对感兴趣区域进行纳米级别的精确定位、高效地搜索和实时成像。纳米级别上缺陷由于其低维性和对称性的破缺,对研究材料的电子学、磁学、力学性质等提供了一个绝佳的研究视角。第五章中,我们用自制的STM测量了层状过渡金属二硫族化物1T-TiSe2,获得了高分辨率的原子图像。我们发现其单晶表面大量存在着原子缺陷,从原子图像上看,这些空位并没有引起大的电子态扰动,这可能跟其表面电子局域化有关。与1T-TiSe2不同,我们发现石墨晶界附近存在大量的形态各样的“超晶格”结构,同时也测量到了由于边界散射引起的电子之间干涉所形成的驻波现象。另外,在石墨的zigzag边界由于其特定的几何构型,产生了局域电子态的调制现象。石墨层间的作用力是很弱的范德华力,到现在为止对其本质仍然缺乏认识,特别是在原子级别上的。仍然还有很多基础问题并没有明确,比如石墨表面原子为蜂窝状晶格,为何STM很难测到,取而代之的是三角晶格结构。我们首次测量到了存在于第二层的原子分辨率的刃型位错,这提供了绝佳的机会,用于研究下层原子如何改变上层电子态的分布。为了充分研究下层原子的影响,通过长时间热处理改变石墨最上面两层碳网之间的层间相互作用,进而发现了在晶界附近有很多奇异电子态结构。为了解释这些特征,我们提出了集体干涉模型。该理论能够定量的模拟下层原子对表面电子态的影响。同时,我们也提供了一种在原子尺度上研究层间相互作用的方法。最后,我们捕捉到了石墨晶体位错的运动及其原子分辨率的演化过程,我们认为这些现象可能是石墨里存在的应力引起的。基于以上研究内容,我目前已经发表4篇SCI论文,其中2篇以第一作者发表在学校认可的二区期刊Rev. Sci.Instrum.上,满足了中国科技大学的博士毕业要求。另外,有一篇投在Nanoscale(一区期刊),处于Under Review状态；还有一篇处于撰写状态。在2013届微尺度国家实验室研究生论坛上,在众多的博士研究生当中,我的报告荣获“一等奖”。