随着矿井开采深度的不断增加，深井高地压、软岩、大变形巷道的失稳机理及控制技术仍然是地下开采的关键问题。煤岩系统是高度非线性的复杂大系统，巷道稳定性非常敏感地取决于其变形的程度，当巷道围岩变形超过变形临界点时，系统存在着失稳与破坏的多样性和非唯一性。用分岔理论来研究围岩再变形、再破坏的力学过程和物理本质，研究允许围岩破坏但限制其变形发展的稳定性条件是具有重要理论意义和实用价值的。 由于围岩的破坏是巷道失稳的必要条件，首先研究岩石材料在受载时，局部化变形的启动与发展。在力学试验中，岩石局部化变形可分为连续分岔、不连续分岔、应变梯度稳定增长和应变梯度快速增长四个阶段。基于考虑非共轴理论的岩石本构模型，利用非连续分岔准则，得出局部化变形的启动条件和剪切带起始方位角。局部化剪切带与第二主应力平行，法向量与第一主应力夹角余弦的平方随泊松比的增大而增加，与非共轴塑性应变率的塑性切线刚度模量呈双曲线关系。基于统一理论分析得强度准则对于岩石弹塑性非连续分岔特性有很大影响。 利用ANASYS有限元模拟软件，模拟岩石局部化初始剪切带。分别对试件从高度、宽度、尺寸三个方面来研究岩石局部化变形的尺寸效应，得出随着试件高度、宽度和尺寸的增加，剪切带图案和倾角都有增加的趋势，岩体试件脆性也随之增强。随着围压的增加，初始剪切带的影响范围逐渐变小，岩块逐渐由脆性向韧性转变。端面摩擦条件对剪切带的形成有较大的影响，在试件的端部易产生剪切带。 围岩在巷道开挖卸载过程中，发生局部化变形，导致围岩剪切破坏，引起巷道失稳。分别对断裂顶板和两帮先期破坏的巷道围岩系统建立力学模型，利用分岔理论求得系统平衡方程和失稳分岔点。并分析了顶板的承载能力与顶板岩梁结构支撑刚度、拱角处支撑刚度、两帮支撑刚度和顶板岩梁尺寸的关系。最后探讨了非均称控制和锚注支护控制技术控制失稳巷道的优越性和控制效果。