X射线自由电子激光（XFEL）是基于粒子加速器的新一代先进光源,具有超短脉冲、超高峰值亮度、输出波长连续可调等优异特性。这些特性使得结构生物学、光化学、原子、材料科学和凝聚态物理基础研究领域有了前所未有的发现。最常见的XFEL运行模式是自放大自发辐射（SASE）模式,其辐射放大从电子束的噪声开始,导致它的纵向相干性和稳定性差。因此,如何产生稳定的、全相干的X射线脉冲成为近十年XFEL领域最重要的研究课题之一。作为解决这个问题的热门候选方案,本文研究的X射线自由电子激光振荡器（XFELO）能在X射线波段实现全相干输出,具有真正的类似激光的辐射特性。由于缺乏高重复频率XFEL装置和实验条件,目前XFELO的研究仍然是数值模拟为主。为了弥补现有FEL模拟软件在Bragg衍射计算方面的不足,我们在衍射动力学的基础上,结合XFEL脉冲本身的特性编写了三维Bragg衍射计算程序,命名为BRIGHT。它可以与其他FEL相关的代码如GENESIS和OPC紧密配合,是后续研究XFELO的重要工具。高强度的X射线脉冲与晶体反射镜的相互作用还将造成严重的热负载效应。这会导致Bragg反射率曲线发生移动和扭曲,从而影响整个光腔的稳定性,是XFELO运行的一个基本挑战也是重要的研究课题。本文开发了一种新的方法来分析晶体反射镜的热负载。该方法在蒙特卡洛模拟软件GEANT4中实现了Bragg反射的物理模型,以精确地获得晶体对XFELO脉冲的吸收信息。然后利用从GEANT4模拟中提取的能量吸收信息,用有限元分析软件对包括单脉冲和多脉冲输入在内的瞬态热行为进行了分析。结果表明,对于一个典型的XFELO脉冲,在半径为几十微米的面积内沉积了大约10J的能量。基于有限元软件的模拟结果,本文开发了一个简化的热负荷模型,以在XFELO中耦合晶体热负荷。利用这个简化模型,本文评估了热负荷对XFELO运行的潜在影响。结果表明,当大量的热量残留在晶体中时,由于温度变化对脉冲能量的负反馈,脉冲能量会显著下降并有大幅度的振荡。在这项研究的基础上,我们可以更好地理解热负荷效应。为了更好地满足用户需求,基于XFELO研究先进光场调控物理也是本文重要的研究课题。首先,本文提出了基于taper的交叉平面波荡器方案,以在XFELO中实现完全的偏振控制和快速切换。基于上海高重复频率硬X射线FEL装置（SHINE）的模拟结果表明,该方案可以产生偏振可控的、完全相干的硬X射线脉冲,并且偏振度达到99%以上,偏振切换率接近20 k Hz。其次,本文首次提出了XFELO的涡旋光模式,指出XFELO原生具有输出OAM光的能力。该方案利用布拉格镜和纵向–横向模式耦合,在常规的XFELO配置中实现了模式选择,从而自然地产生携带OAM的全相干硬X射线,而不需要任何光学模式转换元件。基于SHINE的模拟结果表明,OAM模式的XFELO在14.3 ke V光子能量下脉冲能量达到了120J。这种简单的方法有望极大地推进X射线OAM的产生,同时刺激实验方法的发展。最后,我们基于SHINE的用户需求和现有运行参数提出了MING（Megahertz cav Ity e Nhanced x-ray Generation）的提案,分析了谐振腔型XFEL的可行性,并给出了相应的XFELO物理设计。基于SHINE的XFELO预计可以产生6-15 ke V的全相干X射线。本文深入优化了不同光子能量下XFELO的输出性能,并完成了优化电子束相空间后的start-to-end模拟。基本结果显示,XFELO的输出接近傅里叶转换极限,比SASE模式的谱亮度高出两个量级左右。希望本论文的理论研究可以为将来建设XFELO装置提供参考和指导。