本论文主要的研究内容是以不稳定系统为被控对象,采用分数阶控制器对其进行复合控制并仿真验证。由于分数阶控制器参数整定的特殊性,因此本文采用先镇定,然后加入分数阶控制器的复合控制方法,使系统达到较高的性能指标。为了充分说明不稳定系统分数阶控制器的设计和仿真,本文采用了三种不稳定系统模型作为实验的研究对象,分别是一阶不稳定系统模型、带滞后一阶不稳定系统模型和倒立摆系统模型。对于这三种不同的系统模型,相应的采用了三种不同的镇定方法：对于一阶不稳定系统采用了一次比例反馈补偿的方法使其达到稳定；对于带滞后一阶不稳定系统采用两次比例积分反馈补偿的方法使其达到稳定,对于倒立摆系统采用了直接引入补偿器的方法使其达到稳定。针对这三种不稳定系统,分别采用不同的镇定方法,仿真结果表明,达到了预期目的。然后,对于镇定后的一阶不稳定系统和镇定后的带滞后一阶不稳定系统,设计了分数阶PID控制器(PIλDμ控制器)、分数阶PI控制器(PIλ控制器)、分数阶PD控制器(PDμ控制器)和整数阶PID控制器,最终通过仿真实验表明,分数阶PID控制器的控制效果优于上述其他控制器；对于镇定后的一阶倒立摆系统,不仅设计了分数阶PID控制器、分数阶PI控制器、分数阶PD控制器和整数阶PID控制器,还设计了基于遗传算法的智能PID控制器,并进行了仿真实验,结果表明,分数阶PID综合性能优于上述其他控制器。