深部钻进作为重要研究课题,有着保证国家资源及能源安全的意义。深部地层层位多、构造复杂,存在自然造斜、软硬交替、砾石覆盖等特点,在钻进过程中,这些复杂的地层容易对钻头产生非预期造斜扰动及剧烈震荡反力,导致钻进轨迹偏离及钻柱系统的振动等问题。因此研究钻头与复杂地层的相互作用,并分析地层动态反力作用下钻柱系统中的振动特性,有着重要的研究意义。本文针对地质环境不稳定,物理性质变化明显,工艺作业流程处理困难的两类典型的复合地层钻进工况展开了研究。一类是由两种软硬不同并在交界位置呈一定倾角分布的软硬交错地层工况,另一类是基于砾石漂石与黏土呈空间分布的覆盖地层工况。在明确了所研究地层组成性质和几何形式的基础上,对于这两种主要工况的地质学特点和力学特点进行分析与建模。本文首先针对上述两类典型的复合地层进行了分析与建模。结合地层可钻性描述和地层物理特性描述,确定了两类典型复合地层的建模方法与主要力学参数。并建立了PDC钻头与两类典型复合地层的三维模型,以及包含钻柱系统、钻具组合系统、钻头与地层作用系统的钻柱三维模型。然后,本文基于Abaqus对PDC钻头分别钻进两类典型复合地层的动态过程进行了数值仿真。在Abaqus显式动力学分析模块中建立了基于岩土材料本构关系的钻头与软硬交错地层相互作用的动态破岩有限元仿真模型。采用Abaqus显式动力学分析模块的光滑粒子流体动力学方法（SPH）对钻头与覆盖地层的动态钻进过程进行了仿真。通过数值仿真得到了在钻进两类复合地层过程中,PDC钻头受到的地层反力的动态曲线,并对其展开了数据分析。在此基础上,本文从地层特性,钻进参数两个方面,从单因素实验设计和正交试验设计开展了一系列的数值仿真,得到了在不同地层特性,钻进参数下PDC钻头所受动态反力的特性曲线。通过傅里叶变换,时域变换等方法提取数据特征,通过相关性分析与响应面分析得到钻头与复合地层作用破坏过程钻头受力状态的一般规律。最后,本文建立了包含钻头、钻具组合系统、钻柱、钻铤等的钻柱系统三维模型,并在Ansys瞬态动力学分析模块中建立了钻柱系统—井壁—地层的钻柱系统刚柔耦合仿真模型。对钻柱系统在钻进过程中的动态特性进行了仿真分析,相应得到了钻柱系统的振动特性。