过渡金属氮化物如TiN、VN和CrN等,因为其优异的热稳定性、化学稳定性、抗氧化性、耐腐蚀性和高硬度等性质而被广泛的用作切削工具的表面涂层。尤其是由两种单一氮化物层交替排列组合而成的纳米过渡金属氮化物多层膜,由于其具有比单一氮化物更高的硬度,从而在表面涂层上得到了广泛的应用。人们在研究纳米多层膜的硬化机理时,发现材料宏观性质与原子尺寸上的行为有着密切的联系。然而,材料在原子尺寸上的行为很难在实验上观察到。因此,能够用来处理高达百万原子体系的分子动力学模拟,在纳米多层膜的研究中得到了广泛应用。第二近邻修正的嵌入原子相互作用势（The second nearest-neighbor modified embedded-atom method,2NN MEAM）作为一种进行分子动力学模拟的半经验相互作用势,被认为是非常适用于纳米多层膜的研究。本论文针对过渡金属氮化物及其复合三元体系的2NN MEAM势参数及其应用进行了研究,主要进展如下:1)首先基于单元体系2NN MEAM势参数,系统地研究了过渡金属氮化物TM-N（TM=Ti、V、Cr和Fe）二元体系的2NN MEAM势参数,并提出了一种优化二元体系2NN MEAM势参数的新方法,通过这种新方法,我们将二元体系中需要优化的参数从13个减少到了2个,大大简化了参数的优化过程。为了验证新方法的正确性,我们利用新优化的二元体系的2NN MEAM势参数计算了过渡金属氮化物的结构性质、弹性性质、表面性质和热力学性质,结果表明新开发的二元体系的2NN MEAM势参数能够很好地再现材料的各种基本物理性质。然后利用这种新方法,对过渡金属合金Ti-X（X=V、Cr和Fe）二元体系的2NN MEAM势参数进行研究,并基于本文优化的二元体系的势参数开发了Ti-X-N（X=V、Cr和Fe）三元体系的2NN MEAM势参数。通过验证发现,本文新开发的2NN MEAM势参数是可靠的。2)应用分子动力学模拟研究了四种过渡金属氮化物单晶在不同温度下的变形和断裂行为。发现TiN、VN、CrN单晶的断裂强度随温度的升高而减小,断裂应变随温度的升高而增大。而FeN单晶的断裂应力强度和断裂应变均随温度的升高而降低;拉伸演变过程的分析表明,在高温下微裂纹的扩展被位错成核阻碍,是导致过渡金属氮化物单晶的塑性增加主要原因。3)应用分子动力学模拟研究了TiN/VN复合材料的力学性能。首先分析了应变率和温度对TiN/VN复合材料的力学性能的影响,结果表明,应变率对杨氏模量几乎没有影响,而对断裂强度和断裂应变有很大影响。而温度对TiN/VN复合材料的杨氏模量、断裂强度和断裂应变都有很大的影响。我们还发现TiN/VN复合材料在低温下是脆性断裂,断裂发生在VN层。此外,我们还预测了TiN/VN复合材料的位错滑移机制,模拟了不同滑移体系的GSFE曲线。结果表明,在每一个滑移位置处的所有可能的滑移体系中,{110}<110>滑移体系都是最优滑移体系,说明在TiN/VN复合材料中,完美位错的滑移和成核应该是主要的变形机制。我们还发现,在TiN/VN复合材料中,滑移最可能发生在VN层内。这些模拟表明复合材料的断裂和位错滑移都只发生VN层,很难穿过界面进入TiN层,说明位错运动在界面处受阻是其主要的硬化机理之一。