过渡金属团簇由于其特殊的物理和化学性质一直被关注,而二元过渡金属合金团簇也因具备新奇的性质成为实验和理论研究的热点。本论文研究了前后过渡金属Nb-Rh团簇并讨论了其电子性质和成键规律。很多过渡金属也是高效的催化剂,过渡金属表面催化各种小分子的反应引起了人们的兴趣。过渡金属铑是常用的汽车尾气催化剂,汽车尾气污染的主要成分是NO和CO等,研究NO在过渡金属铑团簇上的吸附与解离反应对于揭示复杂的表面化学反应有重要的意义。过渡金属铂与铑一样也具有很好的催化性能,它们都可以作为工业上催化甲烷和氨来合成氰化氢和氢气的催化剂。尽管目前这些过渡金属与小分子气体的反应有很多实验观测,相关理论仍欠缺。本论文用密度泛函理论研究了过渡金属铌和铑团簇以及它们与小分子在气相中的反应机理。主要结论如下:（1）过渡金属等比团簇（NbRh）_n=1-5具有丰富的异构体,其中立体结构比二维结构稳定。一般金属团簇中化学键都是离域键,但是Nb-Rh团簇的平面和线形异构体中存在定域键。Nb-Rh团簇容易形成对称性较低且自旋较低的结构,最稳定的异构体为密堆积结构。铌原子趋于相互成键形成内核,铑原子则趋于分散在铌原子形成的三角面上。金属原子铌Nb-Nb之间的相互作用大于铌与铑Nb-Rh之间的相互作用,但团簇尺寸增大后,Nb-Rh键比Nb-Nb键强,且Nb-Rh键越多,团簇越稳定。体系有明显的电荷转移现象,电荷由电负性小的铌原子转移到电负性大的铑原子上。团簇的电子性质与团簇的几何结构和尺寸有密切关系。（2）通过计算NO分子分别在端位、边桥位和面桥位吸附于团簇Rh_n^-/0/+（n=1-5）上的反应,发现铑团簇可以有效的吸附NO,NO与Rh的相互作用是电子的贡献与反馈作用,即NO的电子贡献给Rh,然后Rh反馈电子给NO。这种作用直接导致了N-O键的性质变化:随着团簇尺寸的增加、电荷的增加以及NO连接的Rh原子越多,N-O键的键长增加,对应的频率减小,则N-O键越来越弱。在研究了NO于铑团簇上的吸附作用后,我们以Rh₇⁺团簇为例探讨了NO分子解离还原成N₂的反应机理。反应分为两步:Rh₇⁺+NO→[Rh₇NO]⁺,[Rh₇NO]⁺+NO→N₂+Rh₇O₂⁺。反应第一步是阳离子团簇Rh₇⁺吸附并解离第一个NO分子而生成氮原子和氧原子分离的化合物[Rh₇NO]⁺,反应是放热的,可以顺利进行。对于反应的第二步,根据产物氮气中氮原子的来源不同而分为两种可能的路径:一种是来自产生的中间体N₂O:另一种是解离的氮原子直接化合成氮气。由于第一种路径需要克服的能垒较小,热力学上利于反应的进行,所以认为产物N₂是由N₂O分解得来的几率较高,与实验结论一致。（3）对于脱氢反应RhMCH₂⁺+NH₃→RhMC⁺（NH₃）+H₂（M=Pt,Rh）,脱离的氢气来自于RhMCH₂⁺中的CH₂基团,而不是来自于NH₃中的氢原子。对于PtRhCH₂⁺和NH₃的反应,按脱氢过程分别在在Pt端和Rh端上发生可分为两种路径,比较而言脱氢反应在Rh原子上发生的路径能量上更加有利。在反应过程中存在不同自旋多重度的反应势能面,而先从三重态的反应物开始,在第一个氢原子开始转移时经过自旋转换得到单重态的产物,这样的路径能量上更加有利。而对于Rh₂CH₂⁺和NH₃的反应,二重态的反应势能面能量比四重态的更佳,整个反应也是放热的。在与NH₃的反应中,PtRhCH₂⁺和Rh₂CH₂⁺具有同Pt₂CH₂⁺一样的脱氢反应机理。（4）应用相对论密度泛函计算研究了（M₂O₅）_m=1,2⁺（M=V,Nb,Ta）与C₂H₄的气相反应机理。钒氧化物阳离子团簇（V₂O₅）_m⁺（m=1,2）和C₂H₄能够发生氧转移反应,它通过与乙烯的结合并且氢原子转移而削弱与碳相连的V-O键,使之容易断开,从而实现（V₂O₅）_m⁺（m=1,2）中的一个氧原子转移到乙烯上,形成乙醛。对于V₂O₅⁺与C₂H₄的反应,反应过程有顺式和反式两种机理,由于反式机理中形成过渡态需要吸收的能量比相应的顺式机理少,而且反式的整个反应最终放热比顺式反应放热更多,所以认为产物V₂O₄⁺以反式为多。铌和钽的氧化物阳离子团簇（M₂O₅）_m⁺（m=1,2）只能微量甚至不能和乙烯反应,其主要原因在于对应的Nb-O、Ta-O键比V-O键强的多,能量上不利于反应的发生。