锗（Ge）与锡（Sn）同为IV族元素,其合金(Ge1-xSnx)具有与硅（Si）一样的金刚石结构。特别的是,理论上预测当Sn含量达到6%-11%时,锗锡合金的能带将会从间接带隙转变为直接带隙,这对于实现高效率、低成本的硅基光电子芯片具有重要的意义。但是由于Sn在Ge中的溶解度仅有1%,且晶格失配度较大（14.7%）,制备具有高锡含量的锗锡合金薄膜仍然充满了挑战,对于锗锡合金能带结构的调控及其机理研究也需要深入的研究。本论文采用分子束外延（MBE）的生长技术,利用其动力学主导的生长模式,进行了一系列锗锡合金薄膜的外延生长及调控研究。重点围绕应力对薄膜的二维生长、组分调控、能带结构以及载流子的输运等展开了研究和讨论。通过生长条件的优化,将合金薄膜中的Sn含量提高至16.6%,满足了带隙转变的要求。对于锗锡薄膜能带结构的研究发现了能带从间接带隙向直接带隙转变的证据,并且证明了应力是调控能带的一种有效的手段。文中详细的讨论了锗锡合金薄膜外延生长的影响因素和内部应力的释放机制,以及载流子的输运性能调控,提出了增加薄膜弛豫度、提高薄膜晶体质量,又要抑制Sn析出的快速退火的方法。而载流子的输运性能则主要取决于膜内应力,我们通过低温生长高温退火的方法,将锗锡薄膜的空穴迁移率提升至700 cm2/Vs,是目前报道的最高值。本论文针对锗锡薄膜外延生长中的主要难点及性能的调控进行了研究,提出有效的改善方案。该研究结果可以为实现高质量的锗锡合金薄膜在硅基光电方面的应用提供一个良好的研究基础,促进锗锡合金器件的进一步开发及应用。