团簇、纳米线、表面等低维材料,因为量子尺寸效应,具有很多新奇的结构和电子性质,引起人们的广泛关注。近年来,随着理论计算方法的发展和计算机水平的提高,理论模拟被广泛应用到低维材料的研究。在低维材料的表面,有着丰富的物理和化学行为,比如表面原子的重构和表面吸附分子的自组装。表面重构和表面自组装的研究,对于纳米器件的构造,以及功能性表面的设计有着非常大的意义。理论模拟方法,结合实验的探测手段,对于表面的结构的确定有着非常大的帮助。在本论文中,通过第一性原理和分子力学模拟对硼团簇的结构,硅铟表面的重构现象,以及有机分子在高定向裂解石墨(Highly Oriented Pyrolytic Graphite, HOPG)表面的自组装结构进行了研究。第一章首先从薛定谔方程出发,通过对原子势能部分的求解方法的差异,把能量相关计算分为3类分别介绍。这三种方法包括不考虑电子结构的分子力学方法,基于波函数的量子化学方法,以及基于电荷密度的密度泛函方法(Density Functional Theory, DFT)。对密度泛函方法做了重点介绍,包括了常见的能量交换相关泛函以及一些新的发展。之后,对团簇和表面研究的实验方法做了简介,并从实验和理论结合的角度,介绍了实验结果中相应物理量的理论推导和模拟方法。最后,简要介绍了相关的理论模拟软件。第二章我们把目光转向硼的低维纳米材料。从硼元素的类碳化合物出发,简要介绍了硼团簇的研究近况。之后,我们选择了B84进行了理论研究。通过第一性原理方法,我们比较了不同生长规律下得到的B84团簇的结构和性质。从Wade-Mingos规则出发,对里面两种高对称性的B84inner/outer的反常稳定性顺序做了解释。在后续优化中,我们得到了一系列低对称性结构。这些结构都是以B12为核的表面无序的笼状结构,比以前报道的最低能量结构三环硼管有更好的稳定性。通过红外光谱,在实验上我们可以把低对称性结构和高对称性的B84结构区分开来。低对称性的B84的平均原子能量比高对称性的Th对称性类C60富勒烯的B80还要低,也进一步说明可能存在比ThB80更稳定的B80结构。我们和曾晓成老师组合作,通过basin-hopping算法,对B80团簇结构进行了探索,找到了基于B12的笼状低对称性的低能B80结构。之后,对该团簇进行了不同温度的动力学模拟。在高温模拟中,我们找到了一系列具有类似结构的Bso低能团簇。通过比较不同团簇之间的各项性质,我们发现可以通过红外光谱把高对称性的B80和B12为核的结构区分开来。第三,四章我们把目光转移到铟/硅(111)表面。在第三章,我们主要关注铟/硅(111)-√31×√31的重构表面结构。铟/硅(111)-√31×√31重构表面在STM图像上非常类似于硅洁净表面(7×7)的DAS (dimer-adatom-stacking fault)重构图像,实验上曾给出两种√31×√31重构的模型,但是都缺乏理论计算支持。在本章中,我们基于Lee组最新的实验,考虑了3种不同的√31×√31重构结构,包括DAS的完整层结构和T4、H3两种半层结构。在这些结构中,DAS模型的模拟STM图像和实验差别比较大,因此不是铟/硅(111)-√31×√31的真实结构。T4,H3结构的模拟STM图像和实验结果吻合比较好,但是从局域电子态上不能分辨这两种结构。从能量上来看,T4结构对比H3结构稍微有一些优势,通过不同偏压下图像比较,以及分态密度和STS谱的对比,我们进一步确认了T4结构为√31×√31的实验观测结构。在第四章中,我们对铟/硅(111)-√7×√3的结构进行了系统研究。实验上发现√7×√3有四方和六方两个不同的相,具有不同的钢原子覆盖度和STM图像。最近发现四方相具有二维超导性质,促使我们进一步去研究这个表面的重构结构和表面电子性质。我们从表面能,功函数,模拟STM图像,能带计算出发,对√7×√3的两种不同覆盖度的表面做了系统的理论研究。我们一共考虑了六种不同的结构,通过模拟的STM图象和实验的对比,发现对于两个表面,都是基于T1位置的结构和实验吻合的比较好。从能量上看,T1表面并小占优势。我们认为在硅铟体系的表面重构中,动力学因素起着比较大的作用。通过结构和模拟STM图像的变化,我们发现在两种√7×√3表面结构中,都存在一条基于硅(111)表面T1原子为垄的锯齿形(zigzag)铟链。这条铟链具有非常高的稳定性,对于六方结构相变过程的研究以及四方结构的各向异性的二维金属性质都有着非常重要的作用。第五章我们研究了HOPG表面的有机分子自组装现象。第一项研究是理论上对实验发现的FTBC-Cn(n=4,6,8,12)分子在高裂解石墨表面的自组装结构进行解释。在结构探索中,我们采用分子力学做初步优化,结合第一性原理做进一步优化,根据模拟的STM图像的来表征和调整结构。通过这样的循环操作最终得到符合实验STM图像的FTBC-C4结构。这个结构具有二维碗状阵列结构,分子之间的最强作用力是C-H…F氢键。STM图像上的明暗交错链状结构来源于FTBC-C4分子在HOPG表面吸附的两种不同取向和氢键网络。在FTBC-C4结构确认的基础上,我们提出了FTBC-Cn(n=6,8,12)的结构模型,并定性地解释了链长对实验结构以及STM图像的影响。在第二项研究中,我们采用分子力学方法研究了溴代烷烃链的奇偶效应。