在该博士论文中，我们研究流体力学中的边界层问题，刻画几类流体力学方程组的边界层行为并建立其稳定性的数学理论。我们分别研究了二维可压缩非等熵对称流体边界层的性态，三维Prandtl边界层方程组的适定性，以及三维各向异性不可压流体边界层的性态。　　在绪论中，我们简单介绍了边界层理论的物理背景，回顾了边界层理论的研究历史和已有的相关数学理论。同时，我们给出了本文所要研究的问题，得到的主要结论以及文章的结构安排。　　我们在第二章中研究了二维外区域上带有不可渗透边界的非等熵可压缩对称流体在粘性和热传导系数同时趋于零时的渐近性态。对于该问题，利用多尺度分析的方法，我们得到了流动状态关于粘性和热传导系数的形式渐近展开式，发现流体在远离边界时表现为相应的无粘流，而在靠近边界时角速度，密度和温度均有边界层出现，但不会出现径向速度和压强的边界层首项，而且角速度和温度的边界层可由一个非线性抛物系统来描述，其体现了速度边界层和温度层干扰的性态。在边界层较弱的情形下，我们得到了流体边界层的稳定性并证明了前面所述的渐近展开式在L∞空间中成立。这是对可压流体速度边界层和温度边界层干扰的第一个数学理论。　　论文的其余部分将主要研究带无滑移边界条件的不可压流体边界层问题的数学理论。首先，在第三章中，我们考察流体在一般区域（特别是区域边界是弯曲的）中流动的边界层性态。对二维一般有界区域上带有无滑移边界条件的不可压流体的小粘性极限问题，我们利用区域边界附近的曲线坐标和多尺度分析的方法，得出其边界层仍由经典的Prandtl方程组来描述，而区域边界的曲率对边界层的性态没有明显的影响。　　然后，我们在第四章中研究了三维Prandtl边界层方程组定解问题的适定性。对于三维空间中流体的边界层问题，由于其边界层中流动的复杂性，它的稳定性机理很不清晰，至今尚无任何适定性的数学理论。在这一章中，对于三维Prandtl边界层方程组，当切向流场的方向关于边界的法向方向保持不变时，在切向速度场关于法向具有一定的单调性假设下，我们通过引入Crocco变换，并发展Oleinik的方法得到了三维Prandtl方程组相应初边值问题经典解的局部存在性和唯一性，并且三维Prandtl边界层方程组关于此经典解是线性稳定的。进而，在外流压强的单调性假设下，我们利用辛周平和张立群[108]的算子分离方法，得到了此问题弱解的整体存在性。这是关于三维Prandtl边界层方程组定解问题适定性方面的第一个结果，对Oleinik在[69]中提出的一个公开问题，我们针对这一特殊流动给出了肯定的答案。　　最后，我们在第五章中研究了三维空间中带有无滑移边界的不可压各向异性流体的边界层问题。当水平粘性固定而垂直粘性趋于零时，通过多尺度分析的方法，我们得到了流动状态关于垂直粘性的形式渐近展开式，发现流体在远离边界时表现为一个退化的不可压Navier-Stokes方程组，而在靠近边界时，切向速度场有边界层出现，它由一个非线性抛物-椭圆耦合的系统来描述。我们得到了边界层问题的适定性，并利用能量方法建立了边界层的稳定性理论。