在材料及其构件的制备和服役过程中,不可避免地会产生残余应力,而残余应力的存在会对材料及其构件的服役性能产生重大影响。与传统的残余应力测试方法相比,基于压痕技术的测试方法具有高效快捷、无损检测、绿色环保、准确性高、通用性强等优点,因此,也具有较好的应用前景。此外,压痕测试技术作为一种成熟的力学性能检测手段,能够得到材料的硬度、弹性模量等重要力学性能参数。因此,发展残余应力的压痕测试方法,探索残余应力下材料的压痕响应规律和微观作用机理具有重要的价值和意义。随着商业化压痕仪的全面发展和广泛应用,残余应力下的压痕测试技术取得了长足发展,但现阶段该研究仍旧具有一定的局限性。为此,本文结合有限元仿真、分子动力学模拟和试验方法,基于压痕测试技术从残余应力的测试方法、典型(各向同性/各向异性)金属材料残余应力下的压痕响应测试和残余应力下材料的压痕响应机理三个方面开展了以下研究工作:(1)基于经典的压痕数据分析方法,通过量纲分析和有限元模拟对幂硬化型材料在残余应力作用下的压痕响应过程进行了研究。分析了残余应力作用下压痕曲线和压痕功无量纲参数Π_ω随σ_r/σ_y、E/σ_y、n的变化规律。根据归一化压痕功Π_φ和残余应力之间的关系,提出了残余应力的通用计算方法,并进行了反演分析。通过张量分解对残余应力下材料表面的应力状态进行分析,基于应力分析推导了残余应力的计算方法,并且通过有限元模拟结果对该方法进行了检验。两种方法的计算精度均可满足实际的工程应用需求。(2)针对不同热处理的各向同性材料TC4开展了有/无残余应力作用下的宏/微观压痕响应测试研究,对其宏观残余应力进行了计算分析。不同残余应力状态下的宏观压痕曲线呈现明显的规律性,不同残余应力下材料的硬度和弹性模量值不发生变化。α相的压痕曲线不随残余应力的变化而变化,β_t相压痕曲线没有规律性,得出压痕法并不适用于材料微观残余应力的计算。通过两种压痕方法对TC4的宏观残余应力进行了计算,与XRD法测试结果对比,误差均在20%范围内,压痕法测试各向同性材料残余应力满足工程应用需求。(3)通过施加预应力的方式获得稳定的残余应力场,针对各向异性材料单晶铜开展了有/无残余应力作用下的压痕响应测试,从残余应力大小变化、方向变化、塑性损伤三个方面对压痕响应的变化进行了系统分析和研究。在压痕过程中单晶铜表面产生了明显的堆积现象,残余应力对压痕过程中的塑性变形(堆积)具有一定的抑制作用。通过AFM对不同残余应力作用下的堆积面积进行测量,获得了真实的接触面积,基于真实接触面积计算得到的不同残余应力下的真实硬度值保持恒定。计算所得到的弹性模量值与理论推导结果相符。在材料的不同晶向上,残余应力对压痕曲线的影响程度不同。不同预塑性变形下单晶铜的压痕曲线变化是残余应力和损伤共同作用的结果,损伤导致压痕硬度出现降低趋势。在各向异性材料残余应力的计算中,压痕法比XRD法测试便捷、准确,具有明显优势。(4)通过分子动力学方法对残余应力下单晶铜的压痕响应过程进行模拟,研究了残余应力下材料的压痕响应机理。残余应力下材料内部储存的弹性能增加,导致原子势能增加,实现相同的压痕变形所需的额外能量就会降低。残余应力作用下材料在压痕过程中更容易形成位错成核,并且更容易在残余应力作用的方向进行扩展。基于单晶铜的位错扩展变形机制,提出了残余应力下的位错成核准则。从原子运动角度对不同晶向残余应力对材料压痕响应的影响进行了分析。本文的研究工作为残余应力作用下材料及其构件的力学性能、变形损伤、结构设计及服役寿命预测提供了重要的理论和试验依据,对建立材料残余应力的压痕识别测量标准、扩展标准压痕仪的残余应力测试功能模块、指导应力作用下材料及其构件的结构设计具有一定的理论和应用价值。