有机分子凭借其丰富的分子结构和多样化的官能团相互作用,一直是物理、化学、生物等领域的研究热点。特别是近年来,随着分子半导体和分子电子学的发展,使得有机分子的表面科学研究变得尤为重要。扫描隧道显微镜技术以其超强实空间分辨率、原子操纵能力以及电学测量系统为表面分子科学提供了强有力的研究手段。本文主要利用超高真空扫描隧道显微镜技术(UHV-STM)分别对有机分子在二维表面的自组织生长和官能团修饰、手性识别和相变,以及催化化学反应等三个方面的问题进行研究。　　 (1)利用变温UHV-STM系统研究了DNA核苷分子Thymidine(脱氧胸苷,TD)在Au(111)表面的自组织生长行为,并且观察到了由隧穿电子激发的从分子二聚体结构到线形结构的相变过程。同时,利用第一性原理计算给出了相应的理论模型和分子间的相互作用模式。进一步,通过比较Thymine(胸腺嘧啶(T),较Thymidine缺少脱氧核糖基团)在相同表面的实验结果,说明了官能团修饰对于分子自组织行为的影响,对于了解分子自组织生长、官能团的选择与设计,以及理解一些基本生命过程的本质提供实验依据。　　 (2)分子的手性识别和相变一直是备受关注的研究课题。我们利用STM在Au(111)分辨出QA16C(含侧链的喹吖啶酮衍生物)的两种对映异构体,并对其手性转变过程进行了研究。在低覆盖度下,QA分子由同质手性的分子,自识别地形成手性分离的平行线结构,分子骨干和侧链均平铺在基底上。继续增加沉积量至平行线结构饱和后,外来的QA分子将吸附于平行线之间,将平铺的侧向碳链推离表面以直接吸附于的Au基底上,并形成异质手性排列的密堆积分子结构。在经过一段局域对映体过量的过渡态之后,最终形成了完全生长的外消旋密堆积结构。通过控制沉积量,我们进一步研究了密堆积结构的初期吸附过程,并提出了手性取代的机制来解释其手性转变的微观机理,推进了对手性相变机制的认识。　　 (3)以氧化物为载体的金属纳米颗粒以其优越的催化性能在表面催化领域得到了广泛的关注。然而在反应气氛和温度的影响下,纳米颗粒容易发生团聚而破坏了其催化能力。因此,利用有机分子与金属原子间的强相互作用实现金属纳米颗粒的再分散,成为了重要的研究方向。我们设计了含S的TPE分子(苯基硫醚),并利用STM观察到了TPE分子在Au(111)表面与表明Au原子之间的强相互作用,以及所形成的Au-TPE复合结构。进一步,我们将TPE分子沉积到以氧化物为载体的Au纳米颗粒表面,通过退火处理,实现了Au纳米颗粒尺寸的再分散。该项研究对金属纳米催化剂的循环利用提供了科学依据和技术思路。