近年来,深度学习在大量标记样本的支持下取得了巨大成功。但是当标记样本数量不足时,就会出现过拟合现象。另一方面,神经网络容易发生灾难性遗忘,所以它并不能像人类一样做到连续学习。连续学习作为深度学习之后的热点领域,虽然在一定程度上解决了灾难性遗忘问题,但大部分方法是通过手工设计的机制学习归纳偏差,这限制了其发展。元学习不仅可以将连续学习而不遗忘的能力作为元目标优化模型,还可以在样本有限的情况下仅通过几次学习就达到很好的效果,因此利用元学习进行连续学习是一个有希望的研究方向。但是传统的欧氏度量并不能用于现实世界的非线性数据,这使得元学习算法在一定情况下会导致模型不稳定。基于此,本文针对灾难性遗忘现象、标记样本不足和模型不稳定等问题,利用李群数学研究李群连续元学习理论框架。本文的研究成果包括:（1）提出基于注意力机制的多任务元学习模型（MTMLAM）。现实生活中采集的数据总是存在噪声;另一方面,浅层网络在提取样本特征时,由于网络结构浅,导致样本特征提取不完全;深层网络虽然提取的样本特征增多了,却对某些至关重要的特征没有给予充分重视。针对以上问题,本模型通过在网络中嵌入注意力机制模块获得样本图像最关键的对比特征。（2）提出连续元学习模型（CML）。针对灾难性遗忘现象、标记样本不足等问题,本模型运用余弦相似度判断机制对任务梯度的更新方式进行优化。最后在通用数据集上证明该模型的有效性。（3）提出李群连续元学习模型（LGCML）。针对连续元学习模型存在的更新速率慢、不稳定等问题,本模型一方面通过改变内循环更新规则增强连续性,另一方面利用正交约束限制参数空间、采用自然梯度下降的方式,解决以上存在的问题,最后通过实验验证本模型的有效性。