随着工程应用领域的不断发展,越来越多具有非线性特性的复杂结构被应用,非线性动力学问题日益突出。非线性系统辨识方法的研究成为了一大热点,并在理论、计算和测试方面取得了重要进展,但仍然存在一些局限性。为满足日益增长的技术和环境性能对结构和设备的需求,非线性系统辨识方法需要进一步发展和完善。本文主要针对间隙非线性系统辨识问题,围绕基于输出反馈思想的非线性系统辨识方法展开研究,在现有相关理论与方法的基础上进行改进或与其他方法耦合,以提高辨识精度、增强方法的适用性,主要工作包括以下几个方面:（1）介绍了非线性系统辨识方法的研究意义,分别对基于输出反馈思想的频域和时域非线性系统辨识方法的研究现状进行综述。通过对间隙非线性系统辨识问题进行简要概述,指出发展和完善相应辨识理论与方法的必要性。（2）针对激励力和非线性描述函数同时作为输入向量时,会由于激励力与非线性描述函数数值量级相差较大而造成耦合误差的问题,提出一种基于分离策略改进的频域非线性系统辨识方法。该方法分别进行低水平激励试验和高水平激励试验,在低水平激励下辨识标称线性系统的频响函数矩阵,然后在高水平激励下采用分离策略,只考虑非线性描述函数作为输入对非线性参数进行辨识。分别采用三自由度间隙非线性结构和悬臂梁间隙非线性结构的数值算例验证所提基于分离策略改进的频域非线性系统辨识方法的有效性和准确性。（3）针对实际工况中系统所受激励力难以测量的情况,提出一种新的仅输出时域非线性系统子空间辨识方法。通过在子空间辨识过程中将线性部分和非线性部分分开求解,在标称线性系统的特征矩阵或状态空间矩阵已知的前提下,只需测量输出数据即可对非线性参数进行辨识。分别采用三自由度间隙非线性结构和悬臂梁间隙非线性结构的数值算例验证所提仅输出时域非线性系统子空间辨识方法的有效性和可行性。（4）针对非线性描述函数选定困难,不同激励水平下会导致时域非线性子空间辨识过程重复繁琐的问题,提出采用时域非线性子空间方法重构的不同激励水平下非线性恢复力数据和非线性位置响应数据来训练神经网络模型,等效代替响应-非线性恢复力映射关系,使得辨识过程不再依赖系统模型,只需已知非线性位置的响应即可获取非线性恢复力,计算效率得以提高。此外,针对非线性系统外载荷难以测量的问题,利用响应-非线性恢复力映射关系的神经网络模型预测非线性恢复力,提出基于神经网络和子空间法的载荷识别方法,并通过三自由度间隙非线性结构的数值算例验证所提载荷识别方法的有效性和可行性。（5）设计并搭建一个三自由度间隙非线性实验结构,并分别将所提出的基于分离策略改进的频域非线性系统辨识方法、仅输出时域非线性系统子空间辨识方法、基于神经网络和子空间法的载荷识别方法应用到该实验系统上,通过对比分析实验结果,验证所提方法的有效性。