近年来,固体激光逐渐成为激光领域的研究热点,特别是高能固体激光器(HESSL)的功率水平和光束质量得到了显著提高,目前连续模式固体激光器已经实现了百千瓦的高光束质量输出。但是由于这类系统的电光效率普遍不高,产生的大量废热不仅对电源和热管理提出了更高的要求,同时介质热应力和热致光学效应也严重影响了激光器输出功率和光束质量的进一步提升。本文主要围绕影响非稳腔式HESSL功率与光束质量定标放大的主要动力学过程——激光动力学、光腔动力学和热光动力学及其之间的耦合相互作用,开展包括自发辐射放大、含畸变光腔本征模式分析、腔内自适应光学校正以及横向模式不稳定性等方面的理论与实验研究。非稳腔式HESSL中的自发辐射放大(ASE)被认为是除热效应之外限制其功率定标放大的最主要因素。本文针对谐振腔与ASE的耦合相互作用开展了理论与实验研究。发展了两种描述固体激光介质中ASE现象的数值模拟方法：基于蒙特卡洛模拟的光线追迹方法,以及基于镜面成像和照明面技术的体积分方法。建立了包含ASE、激光动力学和光腔动力学的耦合模型,并利用薄片激光器的稳定腔实验验证了模型的可行性。利用该模型研究了谐振腔中ASE与主激光的竞争,指出ASE的存在提高了激光器的起振阈值,但不影响其斜率效率。比较分析了不同ASE抑制措施的效果,并给出了薄片稳腔激光器中ASE效应可忽略的判据。将追迹法与非稳腔Fox-Li迭代相结合研究了腔内ASE和激光振荡的瞬态特性,指出ASE的存在对激光起振阶段的弛豫振荡具有抑制作用,缩短了弛豫时间。另一方面,能否有效抑制与校正腔内畸变成为决定非稳腔式HESSL光束质量定标放大能力的关键。腔内相差校正的前提是正确认识光腔在含畸变条件下的模式演化规律。因此,本文首先对含畸变非稳腔的本征模式进行了理论研究。发展了一套含畸变光学谐振腔的模式分析方法——本征模展开方法(EME),该方法利用一组正交完备基将光腔的本征方程转化为基函数空间的本征值问题,通过数值求解该本征方程即可得到光腔的本征模场。利用该方法研究了含强畸变非稳腔的模式特征,结果表明其本征模式之间不具备正交性,进而从理论上指出在强畸变条件下非稳腔需采取腔内自适应光学校正的必要性。比较分析了变折射率耦合输出镜非稳腔(GRM-UR)和传统非稳腔(TUR)的本征模式特征。研究发现,虽然GRM-UR的起振阂值要低于TUR,但在含强畸变时GRM-UR的光束质量比TUR要差,这主要是因为前者的腔内光子寿命更长,从而使得相差累积效应严重所致。此外,强畸变使得非稳腔内形成一种称为“局域模式”的类稳腔振荡,这可能是腔内元件出现局部损伤的起源。在对含畸变非稳腔的模式特征充分认识的基础上,开展了腔内自适应光学(ICAO)相差校正算法的理论与实验研究。首先分析了几何光学近似下腔内相差主动补偿算法的局限性；进而提出了一种现实可行的、基于“同光路探测”+“共轭补偿”+“松弛迭代”的ICAO校正算法——“往返探测法”；通过非稳腔动力学模拟和本征模式分析方法从理论上证明了该算法的可行性,并分别利用无源腔和低热有源腔开展了实验验证工作。结果表明：该算法探测光路简单、具有较好的收敛性和稳定性,不仅可以有效地补偿腔内的固有相差,而且显著地改善了激光的光束质量。该研究为非稳腔式HESSL的ICAO校正提供了一条新思路。上述关于非稳腔的模式特征与相差校正的讨论均基于稳态理论。进一步的研究发现,非稳腔在热光强耦合条件下可能引起腔内热致畸变与激光模式的瞬态演化行为。本文针对非稳腔式HESSL中可能存在的横向模式不稳定(TMI)现象开展了理论研究。TMI在物理上起源于热-光-热反馈机制与非稳腔激光非对称提取特性的耦合相互作用。通过对三种HESSL——Nd:YAG薄片激光器(Nd:YAG-TDL)、Yb:YAG薄片激光器(Yb:YAG-TDL)和直接液冷薄板条激光器(DLC-TSL)中不同的光-热耦合反馈机制进行分析,指出在高泵浦加载条件下光热强耦合作用可能引起类似高能光纤激光中的激光输出不稳定现象。利用包含激光动力学、热光动力学与光腔动力学的耦合模型,分别研究了三种激光器中的TMI。结果表明：在Nd:YAG-TDL和b:YAG -TDL中,增益饱和效应会抑制热光耦合,TMI只出现在特定参数范围,通过选取合适的运行参数可以避免其发生；而在DLC-TSL中由于没有抑制冷却液对激光吸收的反馈机制,TMI具有明显的阈值特征,只能通过减小液体对激光的吸收产热来避免。由于TMI的产生并不需要引入任何噪声,因此可认为是非稳腔式HESSL的本征特性。利用Nd:YAG-TDL的非稳腔出光实验定性验证了TMI的存在性。本论文对制约非稳腔式HESSL功率与光束质量定标放大的主要因素进行了较深入地理论与实验研究,揭示了其中多种耦合动力学过程的物理演化规律,并对可能采取的解决措施进行了探讨,研究成果有望为此类激光器的优化设计提供一定的参考。