随着我国综合机械化开采技术的发展,厚煤层综采放顶煤、中厚煤层一次采全高等开采方法得到了大面积推广应用。随着采高的增大,为减少回采巷道上部的煤损,满足安装大型采掘运输设备和铺设风水管线的要求,满足正常生产、运输、通风及行人安全的规定,必然要求回采巷道断面随之扩大,但是,巷道断面增大会显著增加围岩的不稳定性,若支护不利,就会出现巷道失稳。与此同时,当前关于巷道稳定性的研究主要集中在围岩应力和支护方式的选择上,但一直没能有效地改变巷道变形量大、支护困难的现状。因此,需要转变思路,从巷道断面形状与围岩稳定性关系方面着手研究,找到一种能符合特定围岩状态的巷道断面形态。鉴于上述现实,本文首先分析了我国发展大断面煤巷的必要性、基本特点、现状和存在的问题,全面地总结了研究巷道围岩稳定性的分析方法及评价手段,详细地阐述了巷断面形状对围岩稳定性影响的研究现状,提出了有利于增强围岩自稳能力的六边形巷道,并采用相似材料模拟、数值模拟和理论分析相结合的方法对其稳定性进行了研究,所做的主要研究工作如下：1.通过自主研制的大尺度平面地下工程模拟试验系统,完成了对模型的大范围观测,实现了对模型的双向高吨位加载,解决了同类设备加载强度偏低的技术难题,并对大断面煤巷开展了“先加载,后开挖”的相似材料模拟试验,获得了理想的试验数据。2.通过相似材料模拟试验,分析了六边形巷道表面收敛率与侧压力系数的关系,研究了巷道顶板位移随距巷中心线距离变化的规律,以及巷帮位移随距帮距离变化的规律,分析了六边形巷道开挖后围岩的应力分布规律,揭示了巷道围岩在不同埋深下的破坏演化特征,发现随埋深增加,顶板裂隙范围逐步扩大,由环形裂隙圈变为裂隙网,巷帮裂隙逐步贯通且延伸至顶板,帮由原来的折边形变成弧形。3.对六边形巷道与矩形巷道的试验结果进行比较,揭示了这两类巷道的围岩位移量之比与埋深的关系,分析了不同地应力状态下两类巷道围岩的裂隙特征和破坏差异,分析了两类巷道围岩关键部位应力分布的不同特点,从而证实了六边形巷道围岩的变形及破坏程度小、围岩的应力集中系数小,其折边巷帮对抵御变形破坏效果明显。4.通过数值试验,分别研究了巷宽B、巷高宽比K、巷帮倾角α、巷埋深H及侧压力系数兄这5个因素对六边形巷道稳定性的影响规律,并通过综合比较,得出了最优六边形巷道断面几何参数。利用多元线性回归拟合得到了5因素与围岩应力、位移及塑性区分布的关系表达式：Ei=a0+a1B+a2K+a3a+a4H+a5λ定量地揭示了5因素共同作用下六边形巷道围岩稳定性规律。5.在最优六边形巷断面参数的基础上,选择13个矿区的巷围岩强度、开采深度、煤层倾角及煤柱宽度作为巷道围岩稳定性类别的评价指标,基于自组织特征映射神经网络(SOM网络)建立了六边形巷道围岩稳定性判定模型,并以吕梁某矿9号煤层工作面六边形顺槽为工程背景,对其围岩稳定性类别进行了判定,同时设计了巷道支护参数,结果表明,采用六边形断面后,提高了巷道安全性,节约了支护成本。