贝叶斯优化是一类广泛发展并且有很强理论支撑的零阶优化方法,在当前的自动化机器学习领域应用广泛。将贝叶斯优化结合到自动化机器学习模型中能够获得比其他方法更高的采样效率。高斯过程是贝叶斯优化最常用的概率模型,高斯过程的核函数会深刻地影响到高斯过程的性能。然而,当前常用的核函数不能有效发掘数据的内在模式,而且不具有外推能力。因此,深入理解核函数并改进核函数的设计是当前亟需研究的一个方向,这对当前大数据时代的信息处理有着非常重要的研究意义。针对上述问题,本文对高斯过程的核函数进行了深入的研究和分析,并提出了通过构建分层贝叶斯模型从核函数的谱域研究核函数性质的观点。本文的主要工作和创新点如下:1.对高斯过程中的核函数进行了深入的研究和分析,并提出了从核函数的谱域研究核函数性质的观点。理论分析表明对核函数在谱域上进行扩展可以构建表达能力更强的核函数,并且能够有效反应高斯过程的周期性规律,具有外推的能力。同时扩展后的核函数有解析的表达形式,有利于核函数的构建和应用。2.构造了一个分层的贝叶斯模型。该模型将所有变量分为超参数、全局变量和局部变量三类,并为每个参数设置了共轭先验,使得每个参数的后验分布可以以解析的形式表示。论文完整地推导了该分层贝叶斯模型的推理过程,为后续的模型实现提供了扎实的理论基础。3.对核函数进行谱域分析,并提出了一种基于狄利克雷过程混合模型的无限混合核函数（IM）。在实现过程中,我们使用MCMC方法来避免在基于导数的方法中经常出现的陷入局部最小的问题。使用该模型时,高斯分量的数量由所提供的数据自动确定,这减少了对专业知识的要求,同时也有利于为特定场景定制核函数。