近年来,智能优化算法调用电磁仿真软件被广泛应用于电磁器件设计优化领域,但是复杂电磁器件仿真软件的仿真时间较长,导致其优化过程效率较低。因此寻找可靠的仿真软件替代模型进行优化器件成了国内外研究的热点,其中,人工神经网络（Artificial Neural Network,ANN）、支持向量机（Support Vector Machine,SVM）、多层极限学习机（Muti-Layer Extreme Learning Machine,ML-ELM）、高斯过程（Gaussian Process,GP）等方法成为机器学习中的佼佼者。传统的学习模型需要大量的训练样本才能得到较好性能,而在电磁器件设计过程中,获得样本数据的计算成本很高,这给机器学习方法设计电磁器件带来了不便,且还存在训练模型预测效果差,泛化能力弱的缺点。为了顺利解决这些问题,本文研究了适合处理小样本问题的GP模型和特征提取能力较强的经典深度学习模型,在此基础上创新性探索了不同深度架构下的GP模型并将其应用于复杂电磁器件设计。在不增加额外标记样本前提下,所提出的深度网络模型可以有效学习数据的高维度空间特征并进行有效压缩降维,从而提高传统GP模型的泛化能力和预测精度。深度高斯过程不仅推动了复杂器件逆代理模型方向上的进步,显现出卓越的功能特性,同时也丰富了深度学习相关领域的研究。本文的主要工作内容如下:（1）介绍了GP模型、以ANN、ML-ELM网络、孪生神经网络（Siamese Neural Network,SNN）为代表的深度学习模型和粒子群优化（Particle Swarm Optimization,PSO）算法的基本原理,并且说明了MATLAB与经典电磁仿真软件（High Frequency Structure Simulator,HFSS）联合调用方法。（2）研究了一种基于深度高斯核学习过程（Deep Kernel Learning,DKL）的谐振频率预测方法,受ANN启发,DKL模型在GP模块前引入多层非线性映射网络,提高了小样本数据特征学习的泛化能力,并通过PSO算法优化DKL模型相关参数,提高了模型预测准确度。在矩形、C型、圆环型三种典型微带天线频率预测实验中,证明了所提方法相对于其他几种先进模型方法具有强的预测能力。（3）研究了一种基于多层极限学习机的高斯过程（ML-ELM-GP）天线特征提取模型,改进了第1,2,…,（k-1）ELM-AE随机参数生成方式,采用PSO算法优化了第k层ELM-AE的相关参数。在保持一定学习速率同时,提升了深度学习模型预测的精确度。从标准测试函数、双T型和三频带天线模型实验,总结得出了较为稳定的ML-ELM-GP模型,并证明了其在天线逆代理模型上拥有优异的参数提取能力。（4）在半监督学习方法启发下,研究了一种基于孪生网络的高斯模型（Siamese-Neural-Network-GP,SNN-GP）在电磁器件特征提取应用方法,通过孪生神经网络和K-近邻算法生成可信度高的虚拟样本,扩充训练样本集,来提高训练GP模型的准确性和鲁棒性,同时探索其训练模型的性能好坏与增加生成虚拟样本的数量多少和K-近邻算法系数大小之间的关系。对WLAN双频单极子天线、六阶交叉耦合器和超宽带紧凑型矩形天线（Ultra-Wideband Compact Rectangular Antenna,UWCRA）建立逆代理模型,实验结果表明,SNN-GP模型在未加生成样本的前提下至少提升了5.267%。