来流气体在组合循环发动机中的停留时间很短（毫秒量级）,同时由于其强压缩性,使得其与燃料的混合受到抑制,从而导致发动机的燃烧效率较低。因此,如何在较短的时间内提高发动机内部气体的掺混效果是组合循环发动机研究的关键技术之一。本文以此为研究背景,以超声速混合层为研究对象,采用理论分析、数值仿真和实验研究等方法深入地分析了混合层的发展过程和混合增强方法。通过线性稳定性分析研究了来流压缩性、粘性、速度比和密度比等因素对混合层线性稳定性的影响。结果表明,当对流马赫数小于0.6时,二维扰动波主导着混合层的发展;当对流马赫数大于0.6时,主导扰动波从二维变为三维。粘性对混合层的增长起到抑制作用。在不同来流介质或者不同温度的相同来流介质条件下,混合层上下层来流使用适当的组合能够使得其增长率获得最大值。通过大涡模拟研究了斜激波与混合层的相互作用。超声速混合层时均速度剖面中的拐点是由流场中的大尺度涡结构引起的。斜激波会使得混合层的速度梯度变大,从而诱导出“发卡”涡结构,而后很快消失。混合层的增长率随着涡结构的演化而变化。斜激波增强了湍流结构之间的能量交换,使得混合层的混合过程得到强化。斜激波作用下混合层的涡厚度在激波作用位置处减小,而后迅速增大,斜激波对提高混合层的增长率有积极的作用。研究了预先仿真法作为边界层湍流入口的可行性,并与DF入口边界层作对比。由于湍流中的大尺度涡结构发展得较慢,而小尺度涡结构可以很快在湍流入口下游发展起来,预先仿真法忽略了湍流入口中的高频小尺度涡结构而只保留了低频大尺度涡结构。预先仿真法做为湍流边界层的入口条件能够使得边界层在较短的距离内发展成为充分发展的湍流,并且与DF方法对比,更加得简单有效。此外,该方法不仅仅局限于边界层流动,对更多的复杂壁面流动,如尾迹流和平板混合层流动等均有效。通过LES研究了来流状态对超声速平板混合层的影响。层流平板混合层比湍流平板混合层中的小激波结构更多。小激波结构是由流场中的大尺度涡结构卷起引起的。湍流入口对平板混合层中的入口激波、尾缘激波和小激波结构都具有减弱作用。层流平板混合层中存在由于K-H不稳定（Kelvin-Helmholtz instability）引起的二维大尺度涡结构,同时存在着（43）涡结构和“发卡”涡结构。相比之下,湍流平板混合层中不存在二维大尺度涡结构,同时（43）涡结构和“发卡”涡结构在形成后很快破碎成小尺度涡结构。在“自相似”阶段,两种混合层的增长率几乎相同,为0.0213。平板混合层的RS12呈现双峰值分布。但是,随着混合层的发展下侧的尖峰逐渐消失,并且湍流平板混合层的下侧尖峰消失得更早。通过动力模态分解（Dynamic Mode Decomposition,DMD）分析,湍流平板混合层中的主要模态的频率比层流平板混合层的频率高。湍流平板混合层需要更多的模态才能比较准确地通过DMD重构流场。实验对比研究了矩形波瓣混合器和消波型波瓣混合器对混合层的混合增强作用和机理。波瓣混合器波峰和波谷之间的压力差使得流向涡结构出现,其中一个沿着顺时针方向运动,另外两个沿着相反的方向运动。波瓣混合器的混合增强作用主要由流向涡结构和增加的流体接触面积引起的,其中流向涡结构贡献了混合增强的80%,尤其在远场中。虽然消波型波瓣混合器比矩形波瓣混合器中流向涡结构出现得更晚,甚至在低扩张角时不出现流向涡,但是其具有与矩形波瓣混合器相同的混合增强效果。流向涡结构使得波瓣混合器后的混合层发展得更早而不是更快。在保证波瓣混合器流场未发生分离的条件下,更大的扩张角具有更好的混合增强效果。消波型波瓣混合器能够消除流场中的激波,从而减小流场的总压损失。