球杆系统是目前大学控制实验室里常见的实验设备之一。它不仅结构简单、安全,而且涵盖了许多经典和现代控制对象的特性,具有诸如非线性、开环不稳定性等复杂控制对象的一般性质,控制方法的优劣都能很好在球杆系统上的体现出来。因此,它常用来检验各种先进控制策略的效果,是控制理论研究中较为理想的试验手段。本文的研究对象是固高科技有限公司的GBB1004球杆实验系统,在对非线性反馈线性化理论以及滑模变结构控制理论深入研究的基础上主要完成了如下工作：首先,简要介绍了球杆系统的特性、组成及工作原理等,在此基础上利用拉格朗日方程建立了球杆系统的非线性数学模型并进行简化处理,然后搭建了系统Simulink仿真图,根据系统开环响应曲线直观分析了球杆系统非线性及开环不稳定特性。其次,将基于非线性系统的近似反馈线性化理论用来实现对球杆的稳定性控制。非线性反馈线性化理论是针对模型精确已知的非线性系统,运用输入状态或者输入输出反馈,实现全局线性化处理；然后将球杆系统在平衡点范围内进行线性化,并使用LQR最优控制分别对这两种线性化后的系统设计控制器,分析了两种线性化控制方法的优缺点。然后,结合现代控制理论中滑模变结构控制方法,设计了基于反馈线性化的滑模变结构控制器。在增强系统抑制抖振能力的目的下改进控制器,提出了准滑模变结构控制的设计方法,并进一步运用动态滑模方法设计新的切换函数以获得大范围、小抖振的控制效果。同时,还对本文用到的各个方法从不同方面进行了对比,主要包括球杆最大可控倾角范围,系统抗干扰能力和对抖振的抑制能力这几个方面,由仿真不仅可以看到变结构控制的较强鲁棒性能,而且看到动态滑模变结构控制方法在可控范围以及削弱抖振方面的优越性,但其系统的抗干扰能力则较常规滑模变结构控制变弱了。再后,成功构建了球杆系统实验平台,将以上几种控制算法引入到球杆系统的实际调试中,得到了比较理想的控制效果。最后,对本文所做的工作进行总结,并提出展望,指出有待进一步研究的方向和问题。