Cerenkov型高功率微波(HPM)振荡器由于其功率效率高、频谱特性好、工作稳定、作用机制简单等特点,是目前最有潜力的高功率微波产生器件之一。Ku波段相比S、C和X等波段,频率更高,对Pf~2因子的提高具有很大的潜力,而目前该波段应用于HPM器件的研究报道较少。Ku波段器件的尺寸较小,采用过模慢波结构可有效提高器件的功率容量;但需要考虑由于采用过模结构而可能引起的高阶模式竞争。在此背景下,本文提出了一种Ku波段低导引磁场过模慢波结构Cerenkov型HPM振荡器结构,器件采用过模慢波结构,设置漂移腔和渐变参数慢波结构,以提高器件功率效率,并可以改善互作用区电场分布,减小最大表面电场,提高器件功率容量。该器件在较低的导引磁场条件下,实现了GW级功率水平的准单模输出。论文的研究内容包括以下几个方面:首先,利用解析方法、多项式展开方法以及有限元仿真方法对器件所采用的矩形波纹慢波结构色散关系进行求解,研究了结构参数对色散关系的影响。介绍了过模慢波器件及其中的模式选择问题,通过恰当选取慢波结构及电子束参数,可使器件工作点在TM01模π模点附近,此时器件Q值较高,工作模式的起振电流较小,容易被激励;漂移腔、反射腔等腔体对器件内的谐振频率进行筛选,实现模式选择。其次,应用粒子模拟软件对Cerenkov器件产生Ku波段HPM的机制进行了研究。设计了Ku波段Cerenkov型HPM振荡器的结构,分析了电子束的空间分布与群聚、电流调制、微波功率与频谱以及电磁场空间分布等物理图像,研究了加速器运行参数和器件结构参数对输出性能的影响,结果表明,漂移腔及渐变参数慢波结构的应用有利于器件功率、效率水平的提升。在二极管电压540 k V、电子束流5.8 k A、导引磁场0.6 T的条件下,获得了功率为1.2 GW、频率为13.80 GHz、功率效率约38%的微波输出;输出微波主模为TM01模,占全部输出功率的95.1%;器件中最大表面电场强度为0.8 MV/cm。采用三维PIC粒子模拟和KARAT模拟对上述结果进行比对,一致性较好。再次,对提出的Ku波段Cerenkov型HPM振荡器开展了实验研究。实验在Torch-01强流相对论加速器平台上开展。结果表明,二极管电压为740 k V、电子束流为9.9 k A、导引磁场为0.8 T条件下,产生微波功率最高为1.1 GW、脉宽为24 ns,微波频率单一性良好,中心频率为13.76 GHz,主要模式为TM01模,功率效率为15%。器件具有稳定的运行能力,连续运行30次工作,输出微波功率为1.05±0.05 GW,功率效率为14%±1%。对比研究了阴极发射材料对器件辐射高功率微波的影响,结果表明POCO石墨阴极和单层介质-铜阴极工作较为稳定,采用双层介质-铜阴极时器件辐射功率最高。对初期实验中激励的非旋转对称模式进行了分析和判别,并采用增加二极管电压、加大导引磁场以及更换阴极材料等方法对其进行了有效抑制。最后,对Ku波段Cerenkov型HPM振荡器进行了拓展模拟研究。将金属膜片-支撑杆结构引入Cerenkov型微波产生器件,设计了一种类膜片慢波结构,并分析了该类慢波结构的色散关系以及纵向模式分布。设计了类膜片加载慢波结构的Cerenkov型HPM振荡器的结构参数。模拟结果表明,在二极管电压为540 k V、导引磁场强度0.6 T条件下,输出功率约为1.0 GW、频率为15.41 GHz,功率效率为30%。器件中表面电场强度较常规矩形波纹慢波结构场强有所下降,其最大值为0.6 MV/cm,这对此类器件在高功率,长脉冲条件下运行打下了基础。论文最后对更高功率输出器件进行了初步模拟研究。