石墨烯（Graphene）因其具有非常优异的物理化学特性和应用前景,自2004年被成功剥离以来,便迅速引发了学术界的关注和激烈研究,成为了一种“明星”材料。同时,石墨烯的发现也为人们打开了二维晶体材料世界的大门,激发了人们对其他二维晶体材料的研究热情,不断发现和探索新的二维晶体材料。在如今数目庞大的二维晶体材料家族中,二维过渡金属二硫属化物（TMDs）和类石墨烯（X-ene）二维晶体材料,以其自身多样化且优异的物理化学性质,结构与性质的可调制性以及广泛的应用领域,在石墨烯之后便迅速成为了材料科学界的研究热点,受到人们的持续关注与研究。本论文主要工作集中于二硒化铂和二硒化镍——两种新型二维TMDs材料以及锑烯——一种新型类石墨烯二维原子晶体,采用分子束外延（MBE）的方法生长了高质量的上述二维材料,选取合适的衬底和实验条件对材料的结构和性质进行了调制,利用低能电子衍射（LEED）,扫描隧道显微镜（STM）,X射线光电子能谱（XPS）等表征手段结合第一性原理计算对其结构和物性进行研究,并对材料在未来领域的应用潜力进行了探索。（1）单层二硒化铂（PtSe₂）作为一种新型二维TMDs材料具有许多优秀的性质与应用前景,在实验上已成功制备。本文在此基础上,开展了对单层PtSe₂的结构调制与功能化研究工作。采用高温退火的方法,使部分八面体结构（1T）的PtSe₂发生相变转化为三棱柱（1H）结构PtSe₂,获得了一种新型结构——自然图案化的1H/1T-PtSe₂异质结构。利用低能电子衍射（LEED）、扫描隧道显微镜（STM）、X射线光电子能谱（XPS）结合第一性原理计算确定了结构的原子组成和形成机制。进而开展了对材料结构调控的研究,实现了1H/1T-PtSe₂与纯1T-PtSe₂结构的相互转化,获得了不同大小的1H/1T-PtSe₂三角形区域,调控了1H相PtSe₂的比例。最后研究了1H/1T-PtSe₂结构对分子的选择性吸附使其功能化,并发现该材料在空气中具有良好的稳定性,显示了这一类新型二维材料的应用潜力。（2）单层锑烯（Antimonene）作为一种由单质锑组成的新型类石墨烯材料,近期被理论预言具有优良的本征光电子学性质及应力调制下的拓扑电子学性质,从而引起了人们的极大关注。然而,实验上对单层锑烯的制备和结构物性调控的研究还很缺乏。本文开展了实验上对单层锑烯结构及物性的调制工作。采用MBE的方法首次在Ag（111）单晶表面外延生长了大面积高质量的平面单层锑烯材料,利用LEED和STM表征手段结合第一性原理计算,确定了所生长的单层锑烯不同于自由锑烯的翘曲蜂巢状结构,而是具有无起伏的平面蜂巢状结构,晶格产生了拉伸。利用XPS表征和理论计算,表明了锑烯原子之间相互作用较强,可以形成连续的薄膜,锑烯与衬底之间的相互作用较弱,没有合金相的产生。研究了锑烯结构改变后对其电子性质的影响,理论计算表明平面锑烯的能带结构表现出半导体到半金属的转变,在边界处存在“非平庸”的拓扑态。材料在氧气中表现出良好的化学稳定性,在未来拓扑电子学相关领域具有很好的应用前景。（3）二维TMDs材料因其具有丰富而新奇的物理性质和多样化的应用领域受到人们的持续关注与研究。然而,迄今为止还有大量二维TMDs材料未被实验所获得。本文开展了实验上对新型层状二维材料二硒化镍（NiSe₂）的生长研究工作。利用“衬底直接硒化法”,首次在Ni（111）单晶上外延生长了高质量大面积的二硒化镍（NiSe₂）二维材料,利用LEED,STM,XPS表征手段结合第一性原理计算证明了NiSe₂二维材料的形成并确定其原子结构为层状八面体构型（1T）,不同于块体NiSe₂的非层状结构。NiSe₂二维晶体材料的成功制备为二维TMDs家族带来了新成员,为材料下一步结构与物性的调控及其应用奠定了良好的基础。