光遗传学技术是神经科学研究中的重要工具,然而基于有线光纤的实验系统对动物施加了较强的约束,难以适用于动物行为学研究。为了实现对动物的无约束光刺激,本文面向光遗传学激光辐照系统中的动物定位需求,研究并设计了基于深度学习的目标跟踪算法。针对实验动物姿态多变、运动随机性强所致的特征缺失问题,本文提出一种基于对抗式学习的目标跟踪网络ATNet。该目标跟踪网络引入残差注意力模块以优化目标的特征提取过程,突出实验场景中目标区域的特征并抑制背景区域的特征;同时结合生成对抗学习方法,使用掩膜生成网络从图像特征和注意力信息中学习如何鉴别目标的关键特征,从而在训练时增强正样本,提高跟踪网络识别特征缺失样本的能力;同时利用注意力信息选取语义区域作为负样本,以减少跟踪器的漂移并提高定位精度。为了解决动物脱离视野所致的目标丢失问题,本文提出一种基于异常检测的长期目标跟踪算法和启动策略。本文根据图像样本间的余弦相似度检测异常的跟踪结果,并使用一种反映目标变化剧烈程度的动态阈值来适应不同的目标;通过样本重演方法减少了跟踪器对目标特征的遗忘,提高了跟踪器在丢失发生后重新正确识别目标的能力;当目标丢失时,根据局部区域的轮廓特征提议候选区域,以加快重检测的速度,提高跟踪过程中的定位效果。本文在公共跟踪数据集和光遗传学实验小鼠影像数据集上进行了测试。实验结果显示,本文提出的基于对抗式学习的目标跟踪网络具有良好的跟踪精度,与其他跟踪方法相比,该方法使平均跟踪误差从16.96像素降低到8.48像素,跟踪过程的精度达标时间比例从36.3%提高到57.9%;在加入基于异常检测的长期跟踪算法后,与单独使用本文提出的目标跟踪网络相比,目标出界场景下的平均跟踪误差从13.24像素降低到6.78像素,精度达标时间比例从48.4%提高到87.4%。实验结果表明,本文提出的目标跟踪算法满足了光遗传学激光辐照系统对实验动物定位的需求,有利于无线式光遗传学实验的实施。