随着电力需求的不断增长，混流式水轮机逐渐向高转速、大容量以及高水头方向发展。单机容量的增大、转速的提高，导致机组的水力设计呈现高比转速的发展趋势，空化引起的两相流流动稳定性问题逐渐得到重视。本文针对高水头大容量混流式水轮机中普遍存在的空化两相流流动稳定性问题，采用内部流场实验测试、能量特性测试以及数值模拟相结合的手段展开研究。为了实现对混流式水轮机内部流场的粒子成像测速仪（PIV）测量，建立了局部部件透明的模型混流式实验台，设计了可以观察转轮内部流场并且满足强度要求的透明转轮，加工了便于测量无叶区流场的带有透明有机玻璃视窗的蜗壳、固定导叶和活动导叶等部件，最后基于实验台循环回路建立了PIV实验台测控系统，监测机组的流量、转速、压力以及输出功率等参数，并建立了PIV相位锁定方法以详细分析内部流场的演化规律。通过对无叶区附近流场、叶道涡、叶片表面脱流空化以及尾水管涡带的实验研究，发现：实验测试工况下，活动导叶吸力面流场的变化周期与叶片通过频率有关，其周期性变化是造成无叶区压力脉动的主要原因；尾水管涡带的旋转周期呈现低频特征；转轮内部的叶道涡流动演化的主频为叶片通过频率；叶片进口边背面脱流空化具有高频演化特征，其主频为导叶通过频率。为了详细分析混流式水轮机机组内部的叶道涡、尾水管涡带的流动特征，采用了大涡模拟（LES）方法和基于蒸发/凝结空化模型的计算方法，对模型混流式水轮机的外特性、内流场等进行了数值预测。在任意活动导叶开度下，采用空化两相流计算的外特性结果与实验对比吻合度高，而单相流计算结果与实验值误差较大；在额定工作开度下，转轮出口不存在强旋流流动形态，可以有效地改善尾水管入口流动，降低尾水管的压力脉动；开度较小时，尾水管涡带存在复杂的双涡带现象。为了研究混流式水轮机机组内部流场的流动稳定性，基于数值模拟方法预测了机组内部的压力脉动，捕捉了压力脉动的频谱特征及演化规律，同时基于曲线坐标系下的湍动能输运方程对混流式水轮机无叶区流场的流动稳定性进行了研究。结果表明：不同开度不同工况下，混流式水轮机无叶区的压力脉动主频均为叶片通过频率，次频均为叶片通过频率的两倍频；随着开度增加，尾水管入口处的压力脉动高频分量越来越明显。通过对湍动能在无叶区分布的研究，发现影响流动稳定的主要因素是正应力生成项和切应力生成项；导叶开度较小时，无叶区压力脉动的提高主要是由于活动导叶尾迹流造成的，当活动导叶开度较大时，无叶区压力脉动的提高主要由于活动导叶尾迹流受转轮的干涉作用造成。另外，活动导叶开度较小时，活动导叶的尾迹流动直接影响湍动能正应力生成项大小，而活动导叶开度较大时，转轮叶片的干涉作用造成接近转轮处的湍动能正应力生成项变化较大；故湍动能生成项中影响流动稳定的主要因素是正应力生成项和切应力生成项，弯曲应力生成项以及三维生成项在湍动能生成项中的比例较小。本文研究结果阐明了混流式水轮机无叶区、转轮内部以及尾水管中的流动稳定性问题，对水轮机工程设计具有重要的指导意义。