在通信系统中,自动调制识别促进了许多重要的信号处理应用的发展,如认知无线电、频谱共享等。近年来常用于调制识别的深度学习模型因其对训练数据量和数据分布的要求,不能解决实际通信场景中存在的以下问题:（1）因通信环境的复杂性导致数据分布发生偏移;（2）面向特定的数据分布,训练数据量不可控。为了应对这些挑战,我们研究了基于迁移学习的自动调制识别。迁移学习能够减轻分类模型在数据分布和训练数据量方面的约束。（1）本文提出将对抗性迁移学习结构（Adversarial Transfer Learning Architecture,ATLA）引入到自动调制识别领域,实现对抗性训练和知识迁移的统一。该结构通过对抗性训练挖掘源域中的潜在信息,并进一步应用到目标域中,实现两域之间的非对称映射构建。ATLA主要由三部分组成:源模型、目标模型和判别器。实验证明,提出的ATLA算法能够减少目标模型对训练数据的需求量,且优于现有的参数迁移方法。上述结构只适用于源模型和目标模型能够共用参数的情况,当遇到输入向量维度不同的迁移场景,或源模型和目标模型结构不同的情况时,上述的对抗式迁移学习结构便失效了。（2）为使源模型和目标模型相互独立,本文改进了 ATLA结构,实现了跨模型地对抗式迁移学习方法（Cross-model Adversarial Transfer Learning Architecture,CATLA）。该方法与 ATLA 结构主要存在以下区别:（a）目标模型与源模型结构相互独立,互不干扰。（b）目标模型使用目标域的小样本训练集训练作为初始化。（c）判别器的输入替换为源模型和目标模型的softmax层输出。实验结果验证,跨模型地对抗式迁移学习能够有效地解决不同模型结构间的迁移问题,且在泛化性、数据分布差异容忍度等方面优于参数迁移和ATLA结构。