不同应力状态下岩石材料的失稳断裂破坏一直是岩石力学与工程研究的重点。本文在对岩石进行平面应变、常规三轴和声发射实验及煤岩CT实验的基础上,采用非线性分叉理论、混沌理论对岩石在断裂失稳过程中的局部化分叉与混沌特征以及冲击地压的混沌特性进行了研究。本文的主要研究成果如下:1.根据许多岩石工程处于平面应变状态的实际情况,自行研制了岩石平面应变仪,进行了岩石平面应变实验,并将平面应变实验结果和常规三轴实验结果进行了比较。结果表明,不同应力状态下岩石的失稳断裂表现出不同的本构特性,简单地将常规三轴实验结果应用到处于平面应变状态的实际工程将导致很大的误差甚至得到错误的结论。2.为研究岩石材料弹性模量的应力敏感性,进行了不同围压和不同应力水平下岩石的加卸荷循环实验。实验结果分析表明,岩石材料的弹性模量表现出较强的压硬性特点,同时与塑性变形耦合,表现出强烈的非线性性质。3.处于平面应变和常规三轴条件下的岩石在中低围压(<40MPa)下均表现为剪切局部化破坏的特征。对破坏后试件剪切面倾角的测量结果显示,在常规三轴情况下,剪切面倾角有随围压增加而降低的趋势;而平面应变情况下试件倾角表现出相对的稳定性,不随围压的变化而变化。4.根据岩石的平面应变和常规三轴实验结果,建立了不同应力状态下岩石非关联弹塑性本构模型,应用变形分叉理论的声张量法推导了不同应力状态下的分叉条件。对不同应力条件下岩石分叉的计算结果和实验结果的分析表明,常规三轴条件下,岩石的分叉发生在材料的应变软化即峰值应力出现之后,而平面应变条件下,岩石的分叉发生在应变硬化区,即峰值应力出现之前。5.在煤岩CT实验的基础上,通过研究煤岩CT数在不同应力水平时的变化,建立了煤岩CT数演化的混沌模型。对该模型的分析表明,煤岩在断裂失稳过程具有混沌分叉的特点。6.在岩石声发射实验基础上,根据混沌理论的非线性时间序列分析方法,对岩石的声发射参数时间序列进行了相空间重构、关联维分析和最大Lyapunov指数的计算。结果表明,岩石声发射时间序列具有混沌特性,描述不同围压下岩石声发射参数演化的最小因子数大于16,说明岩石变形失稳断裂过程是一个极其复杂的非线性动力系统。7.在煤岩CT数混沌模型和声发射时间序列混沌分析的基础上,结合损伤力学和耗散结构理论初步提出了混沌损伤的概念,认为岩石变形失稳断裂过程是一个混沌损伤的过程。8.结合对煤矿冲击地压发生条件和影响因素的分析,引入单滑块单状态本构模型、双状态本构模型和双滑块模型对煤矿冲击地压的发生机理从非线性动力学的角度进行了研究,分析了不同模型的动力学演化行为,探讨了模型的适用条件。