金属基纳米复合材料是下一代轻质高强结构材料的备选材料之一,在航空航天、电子器件、汽车零部件等领域有着广泛的应用前景。但是,金属基纳米复合材料在工业应用中仍然面临着许多巨大的挑战,其中对它的失效行为和机理的认知就是面临的重大问题之一。不同的金属基纳米复合材料呈现出显著不同的断裂机制,相同的金属基纳米复合材料在承受不同载荷的情况下也会有不同的失效行为。目前,已经有很多学者对金属基纳米复合材料的力学行为进行了研究,但是主要还是集中在弹塑性变形阶段,并且加载工况相对简单,很难或者不能预测复杂应力状态下的断裂行为。因此,如何准确模拟和预测金属基纳米复合材料的塑性变形和断裂行为成为了其真正走向应用的一个关键问题。此外,通过对金属基纳米复合材料塑性变形和断裂行为的认识,逆向开展微结构优化设计的研究也较少。本文以镁基纳米复合材料为模型材料,以其塑性变形和断裂行为的实验研究、数值模拟和理论分析为主线,对镁基纳米复合材料在受载过程中的断裂行为进行了深入研究和分析,并且系统开展了镁基纳米复合材料微结构参数与断裂行为关系的研究,提出了微结构优化的指导方向。本文开展的主要研究工作如下:1)对非均匀镁基纳米复合材料的微观结构进行了实验表征,获得了其微结构分布特征:纳米增强相颗粒非均匀分布在纯镁基体中,形成了由纯镁组成的片层状软相区和均匀镁基纳米复合材料组成的硬相区;片层状的软相弥散分布在硬相中形成了反贝壳结构。测试了非均匀镁基纳米复合材料的准静态和动态力学性能,观察了裂纹在非均匀镁基纳米复合材料中的扩展过程,分析了软相对于裂纹扩展和断裂韧性的影响。2)通过将主应力偏量用Lode角进行表示,将CPB06屈服准则引入PPL(Plasticity with Pressure and Lode angle effects)塑性本构模型框架,获得了可以描述纯镁拉压不对称现象的新的塑性本构模型,并完成了其在Abaqus有限元分析软件中的实现。通过CPB06-PPL塑性本构模型和修正的Mohr-Coulomb断裂准则,模拟不同应力状态下镁的断裂行为,并与DIC实验结果进行了对比,取得了较好的精度,完整确定了镁基纳米复合材料中纯镁基体的断裂准则。3)发展了一个预测均匀镁基纳米复合材料(非均匀镁基复合材料中的硬相区)断裂行为的单胞模型。通过CPB06-PPL塑性本构模型考虑镁基体的拉压不对称性,同时应用基于应力的修正的Mohr-Coulomb断裂准则描述均匀镁基纳米复合材料同时存在的韧性断裂和脆性断裂。计算结果表明这种单胞模型很好地模拟了实验结果。断裂过程的模拟验证了界面失效仍然是镁基纳米复合材料失效的主要原因。参数研究进一步确认,降低界面的厚度和提升界面强度都可以很好地提升镁基纳米复合材料的宏观力学性能。此外,通过对不同的加载工况的预测和模拟,标定了一个完整的硬相区(均匀镁基纳米复合材料)的断裂准则。4)通过理论推导和有限元计算,证明了非均匀镁基纳米复合材料中形成的反贝壳结构,可以很好地提升复合材料的综合力学性能。与混合法则进行对比,这种复合材料的强度和弹性模量都未能突破混合法则预测的极限,但是断裂韧性却得到了很好的保留,相比组元的断裂韧性甚至有所提升。这充分说明这种反贝壳结构设计可以很好地发挥复合材料的潜力。进一步研究发现:反贝壳结构产生的裂纹增殖和应变非局域化效果是其韧性提升的主要原因。此外,软相还起到了阻碍裂纹扩展和钝化裂纹的作用,可以防止材料发生灾难性的破坏。提升软相的硬化能力和增加软相的长宽比可以很好地提升反贝壳结构复合材料的刚度和韧性。最后,对软相的体积分数和长宽比等几何参数进行了优化,为进一步提升反贝壳结构镁基纳米复合材料的力学性能提供了理论指导。