随着大规模数据集的产生,数据驱动的深度学习方法极大的提升了目标检测模型的性能。但在小目标检测领域由于数据获取和标注的困难,使得这类方法不适用于小目标检测任务。本文通过虚拟仿真技术生成大规模复杂场景航拍车辆小目标数据集Vehicle Small Object Dataset(VSOD),并开发自动标注工具快速标注数据。但数据集之间域差异的存在,极大限制了虚拟数据的发展。本文设计了针对目标检测任务的域适应模型,有效缩小了VSOD与真实小目标数据集之间的域差异。论文的具体研究内容如下:在虚拟仿真技术的基础上,本文提出了虚拟车辆小目标数据集构建方案,该方案使用虚拟引擎UE4构建城市、郊外、高架桥基本虚拟场景,在场景中根据实际的应用场景放置12类车辆3D模型以及一系列背景3D模型,利用自主设计的后处理系统以及3D渲染的方法在虚拟场景中获取多种天气、光照、拍摄角度下的虚拟数据,并通过设计的自动标注算法进行精确的2D包围盒标注。本文研究了不同域数据之间域适应方法,基于Cycle GAN模型提出了针对目标检测任务的像素级域适应模型。首先改进Cycle GAN生成器,在原有残差结构生成器中加入U-Net结构,提升生成图像质量。同时使用上采样加卷积的结构代替反卷积层,消除棋盘效应。然后搭建特征金字塔结构的单阶段目标检测模型,并接入改进Cycle GAN模型,同时引入特征一致性损失,在数据优化过程中加入有效的特征一致性监督。通过域适应模型优化VSOD,缩小与真实数据间域差异,提升使用VSOD预训练的检测器在真实场景中的泛化能力。通过研究深度神经网络Fine-tuning相关的理论基础,提出了多阶段Fine-tuning训练策略,将Fine-tuning过程分为VSOD数据集预训练阶段,域适应VSOD数据集Fine-tuning阶段以及目标域数据集Fine-tuning阶段。该策略提升了Fine-tuning在小目标检测任务中的效果,实现了VSOD数据集和域适应模型在Fine-tuning中的应用。