混沌现象是确定性非线性系统表现出的一种类似随机行为。混沌作为非线性科学的最重要成就之一，在过去的四十多年中得到普遍的重视和广泛的研究。近年来，如何应用混沌这种复杂现象成为人们研究的焦点，而混沌控制和反混沌控制正是这一研究的基本问题。针对这一基本问题，本文回顾了混沌学研究的发展历程，并指出混沌学研究的主要方向和引进混沌控制的基本概念，综述了混沌控制的一些现有方法。在分析各自优缺点的基础上，进行混沌控制的研究。针对表现出混沌运动的非线性系统，提出基于Backstepping控制方法进行混沌控制。首先，介绍该方法的基本思想，并且以连续和离散两种形式分别叙述该方法的基本原理。在原有方法的基础上，介绍该方法的改进以及应用。其次，本文重点研究了Backstepping方法在连续自治混沌系统中的应用，以Lü混沌系统为例，分别介绍在参数确定情况下对Lü混沌系统进行反馈控制和混沌的跟踪，以及当参数不确定时，通过设计了不同的控制器对Lü混沌系统进行控制和对不确定的参数进行辨识。实验仿真表明，该方法在混沌控制和参数辨识上的有效性。本文还研究了永磁同步电机中的混沌现象，针对原有混沌控制方法的不足，提出Backstepping方法控制永磁同步电机中的混沌现象，包括混沌的镇定和引导，以及参数未知情况下的辨识。实验仿真表明该方法简单、易行、有效。由于混沌现象通常会出现在大量的实际工程应用中，所以需要考虑当被控系统受到外界干扰时该方法的鲁棒性。本文针对Lü混沌系统和永磁同步电机中存在外界干扰的情况进行了较为深入的研究，实验仿真表明该方法的有效性和灵活性。