本文应用离散型和连续型动力系统的分支理论、混沌理论、Melnikov方法和二阶平均方法，研究了几类离散型和连续型动力系统随参数变化时产生的不动点的分支、周期轨分支、混沌动力行为以及动力系统的混沌控制。对于离散型动力系统（包括无Allee效应捕食-被捕食系统、具有Allee效应捕食-被捕食系统和组织感染的数学模型），应用分支理论、中心流形定理和混沌理论从理论上得到了fold分支、flip分支和Hopf分支存在的条件及Marotto混沌存在的条件。对于连续型动力系统，应用Melnikov方法得到了具有相位移的单摆方程在周期扰动条件下存在混沌的条件，应用二阶平均方法和Melnikov方法得到了在拟周期扰动下平均系统存在混沌的条件。本文同时给出了数值模拟（包括分支图、最大Lyapunov指数图、相图、Poincaré映射图、分形维数等），这不仅验证了理论分析结果，而且发现了许多有趣的复杂动态，例如，离散系统具有不同类型的内部危机、新的混沌吸引子、非吸引混沌集、通向混沌的不同路径、18对周期轨和n(n＞18)对周期轨的对称破缺等等。本文最后还研究了单摆方程的混沌控制，应用Melnikov方法于单摆方程将其混沌行为控制到周期轨行为，并对分析结果给出了相应的数值模拟。　　 全文分为四章。　　 第一章给出了动力系统的分支和混沌的背景知识，并简单介绍了离散型和连续型动力系统的中心流形定理、Melnikov方法、二阶平均方法、混沌的各种定义和特征以及通向混沌的路径。　　 第二章，首先研究了离散型无Allee效应捕食-被捕食系统和具有Allee效应捕食-被捕食系统。应用中心流形定理和分支理论从理论得到了flip分支、Hopf分支存在的条件，根据Marotto混沌的定义证明了Marotto混沌的存在性。数值模拟验证了理论结果，给出了更丰富的动态行为。其次，用Euler方法将连续型组织感染的数学模型离散化，研究此离散模型的动力行为。应用中心流形定理和分支理论从理论得到了fold分支、flip分支、Hopf分支存在的条件，根据Maxotto混沌的定义证明了Marotto混沌的存在性。数值模拟验证了理论结果，并发现了此系统具有丰富、复杂的动态行为。　　 第三章研究了具有相位移的单摆方程。应用Melnikov方法得到在周期扰动条件下混沌存在的条件;当Ω=nω+(ε)v，n=1，2，4时，应用二阶平均法和Melnikov方法得到了在拟周期扰动下平均系统的混沌存在的条件。数值模拟验证了理论结果，并给出了更复杂的动态行为。　　 第四章研究了两个单摆方程的混沌控制。应用Melnikov方法，分别给出了同宿和异宿混沌控制的条件，同时给出了数值模拟以及说明。