原子团簇是由几个至数千个原子相互作用而形成的稳定聚集体,其物理和化学性质与它所含有原子数目多少有关。由于团簇具有特殊的几何结构和奇特的物理化学性质以及潜在的应用背景,引起人们的广泛关注。原子团簇结构研究问题是计算机、物理、化学、生命科学等研究领域的一个难题。预测原子团簇最稳态结构的一般方法是合理简化原子团簇的内部结构,根据原子间的相互作用势建立其物理模型,将物理模型转化为数学模型,然后对数学模型进行求解。研究原子间的势能模型对预测原子团簇最稳态结构有很大的作用,其中应用比较广泛的势能模型有经验势、自洽势和紧束缚势等。原子团簇结构研究的第二步是在势能面上搜索能量最低团簇结构,主要方法有蒙特卡洛算法、分子动力学、模拟退火算法、遗传算法等。本文主要介绍了氩原子团簇和铜原子团簇的结构优化问题：采用智能优化算法中的遗传算法、粒子群算法、改进的粒子群算法和差分进化算法结合Lennard-Jones势能模型对氩原子团簇结构进行优化。遗传算法、粒子群算法和改进粒子群算法分别得到了Arn团簇的稳态结构能量,以尺寸为n=2,3,…,14的Arn团簇为例,结果表明,与基本粒子群优化算法或遗传算法相比,本文提出的改进粒子群优化算法对Ar。团簇结构进行优化,具有更好的收敛特性,所需的计算时间更短。利用差分进化算法,可以进一步的得到n=15-30的氩团簇近似基态能量和基态结构。四种算法得到的氩团簇结构呈现良好的对称,验证了四种方法的有效性。采用遗传算法和改进粒子群优化算法结合Gupta势对铜团簇结构进行优化,得到了Cun(n=6-14)的铜团簇基态能量和基态结构,从铜团簇的三维结构图中可以看出铜团簇结构高度对称。验证两种算法对于金属团簇结构优化也是有效的。本文的研究结果表明,将智能优化算法应用于原子团簇结构中是可行的,文中提出的改进的粒子群优化算法比其他三种算法的性能更优越。有望成为复杂团簇结构研究方法。