森林为人类提供了重要的资源。在森林资源管理的精细化发展进程中,作为森林空间结构的组成部分,单木的信息获取具有重要的意义。随着遥感技术的发展,使用高空间分辨率的遥感影像获取单木信息逐渐变成一种可能。单木分类结果为森林的精细调查提供了更加详细的数据,为单木参数的提取奠定基础。目前大部分研究依靠光学遥感获取树种信息,结合机载激光雷达数据获得单木树冠,将两个结果叠加最终得到单木分类结果。然而基于多源数据的单木识别和分割后分类存在数据获取能力受限,异源数据一致性差、数据量巨大、数据处理流程复杂等问题。随着深度学习计算机视觉的发展,实例分割网络的出现为单木分类提供了更加简易的解决方法。目前,实例分割网络应用于简单场景的特定目标识别已有相关模型和案例,但是在森林场景下的应用极少。本文针对高郁闭度多树种组成的森林场景下,影像树冠遮掩与黏连,以及高空间和高光谱分辨率影像处理的海量计算与信息冗余等单木分类与制图的关键问题,探讨了目前深度学习领域典型的实例分割网络Mask R-CNN在机载高光谱数据单木分类的应用潜力,提出了实例分割网络实现单木分类的框架和流程。以内蒙古赤峰市旺业甸林场为试验区,采用高空间分辨率机载高光谱信息创建数据集,以Res Net-FPN为主干网络,搭建能用于单木分类的Mask R-CNN实例分割网络。最终得到每个输出的类别信息、边界框和掩膜,实现单木的树种信息和树冠范围的获取。主要研究工作和结果如下:（1）对实例分割网络在森林场景的单木分类流程进行了深入研究,构建了一个适用于单木分类的Mask R-CNN网络,明确了实例分割算法应用于机载高光谱影像单木树种识别时,从高光谱数据处理及单木分类数据集建立,到网络搭建及训练,至最终完成单木分类制图和精度报告的完整流程。（2）构建了一个适用于单木分类的Mask R-CNN网络,输入的数据经过Res Net101残差网络实现不同尺寸下深层特征的提取,构建特征金字塔网络整合残差网络不同阶段的结果,通过区域生成网络得到建议框,进行模型训练,最终实现单木的分类、定位和掩膜生成。其中选择Res Net101用以提取特征,相较于Res Net50而言,能够增强模型的学习能力,实现对数据信息更深度的挖掘,提高分类精度。（3）通过对模型不同训练回合的损失降低过程进行可视化表达,综合考虑模型损失和训练的时间成本,最终确定了模型的训练最佳回合次数。在最佳训练回合下,采用最佳的锚框尺度（4,8,16,32,64）与特征层结合,使得锚框分布更合理,实现多尺度特征提取,改善了不同尺寸树冠的提取效果,有效提升单木分类精度。（4）将模型应用于研究区单木分类,以Res Net101-FPN为骨干网络,锚框尺度为（4,8,16,32,64）,经过270次训练回合的最优模型应用于整个研究区,实现单木分类制图与精度评价,平均精确度m AP达到40.35%。其中五角枫的单木分类精度最高,达到61.64%,其次分别是单木分类精度42.86%的油松和35.90%的落叶松,柞树的单木分类精度最低,只有21.00%。研究结果表明Mask R-CNN网络能够在单木分类领域获取真正的单木分类结果,确定的最优模型结构能够更好地提取影像的深层次空间和光谱特征,为后续深度学习计算机视觉中的实例分割相关问题在林业分类中的应用探明道路,并为复杂林分下高光谱影像的单木树种分类提供一种新思路。