反作用轮和动量轮（本文中统称为飞轮）是高精度航天器常用的姿态控制和姿态稳定设备，但飞轮工作期间会产生扰动力和扰动力矩，降低高精度航天器载荷的指向精度和指向稳定度，影响有效载荷性能。因此对飞轮系统进行振动控制势在必行。本文从理论分析、数值仿真和地面实验三个方面，系统深入地研究了飞轮动力学建模和振动控制问题，提出并验证了飞轮主、被动振动控制的新方法。本文主要工作如下：1.建立了航天器飞轮线性动力学模型和非线性动力学模型，分析了飞轮动力学特性，研究了利用弹性支承提高飞轮转速、降低飞轮扰动力的机理。(1)建立了飞轮线性动力学模型和飞轮扰动因素模型，推导了基于传递矩阵的飞轮动力学方程，分析了扰动因素对飞轮扰动力和扰动力矩的影响。(2)建立了考虑飞轮轴承刚度非线性的Jeffcott转子模型，分析指出了弹性支承提高飞轮转速、降低飞轮扰动力的基本原理。2.建立了航天器飞轮被动隔振和主动振动控制模型，提出并分析了利用被动隔振和主动振动控制对飞轮振动进行抑制的方法和技术。(1)提出了一种基于折臂梁支承的弹性支承飞轮被动隔振方法，建立了弹性支承飞轮动力学模型，推导了基于传递矩阵的弹性支承飞轮动力学方程，分析了弹性支承飞轮隔振性能。结果表明：越过临界转速后，弹性支承可以有效隔离质量不平衡引起的扰动力和扰动力矩。(2)提出了一种基于折臂梁式的飞轮被动隔振平台设计方法，建立了飞轮与隔振平台系统动力学模型，推导了考虑陀螺效应的飞轮与隔振平台系统动力学方程，分析了陀螺效应对隔振平台隔振性能的影响。结果表明：飞轮与隔振平台系统临界转速与飞轮质量特性有关。当飞轮转子轴向转动惯量大于飞轮系统径向转动惯量时，系统临界转速小于静止时的径向固有频率；反之，系统临界转速大于静止时的径向固有频率。越过临界转速后，隔振平台可以有效隔离质量不平衡引起的扰动力和扰动力矩。(3)提出了一种弹性支承飞轮主动振动控制方法；建立了弹性支承飞轮主动振动控制模型，推导了基于速度负反馈的飞轮主动振动控制方程，分析了飞轮主动振动控制性能。结果表明：主动振动控制系统可以控制除轴向转动外其余五个自由度的振动，有效抑制飞轮共振转速时的扰动力和扰动力矩。3.建立了航天器飞轮振动控制实验系统，验证了飞轮振动控制方法的有效性。(1)建立了高精度、宽频带的飞轮微振动测试系统，该实验系统能够测量3-300Hz范围内毫牛级的扰动力。(2)测试了刚性支承飞轮扰动力和扰动力矩，测量结果与理论分析结果一致，验证了飞轮动力学模型和扰动因素模型的正确性和有效性。(3)测试了弹性支承飞轮和飞轮隔振平台静止时的固有频率和非旋转黏性阻尼系数。弹性支承飞轮和飞轮隔振平台固有频率设计值与实验值吻合，验证了弹性支承飞轮、飞轮隔振平台设计方法和理论模型的正确性。(4)开展了弹性支承飞轮隔振性能实验研究。结果表明弹性支承飞轮具有转速高、扰动低的特点，验证了弹性支承飞轮被动隔振方法的正确性和有效性。(5)开展了飞轮隔振平台隔振性能实验研究，结果表明系统临界转速发生在2600rev/min，远高于系统静止时第六阶固有频率26.29Hz（1577rev/min），验证了陀螺效应影响飞轮隔振系统隔振性能的现象；隔振平台可以有效隔离飞轮高频扰动，证明了隔振平台对飞轮被动隔振的有效性。(6)开展了弹性支承飞轮主、被动一体化振动控制实验研究。结果表明主动振动控制可以有效抑制弹性支承飞轮在临界转速的扰动力，验证了飞轮主、被动一体化振动控制方法的正确性和有效性。