深度神经网络是深度学习的一个重要模型,其往往拥有非常多的层次结构,包含输入层输出层和一系列的隐藏层。但是若只是单纯的添加更多的隐藏层,深度神经网络依然只是运算的简单线性组合,并不具有人工智能的真正意义。此时,激活函数的添加为神经网络添加了非线性的表达能力。随着集成电路的发展,越来越多的神经网络开始使用集成电路实现,而神经网络加速器实现过程中,激活函数往往是硬件实现中最昂贵且最难以实现的部分。本文针对Swish激活函数提出了三种硬件实现方法,分别是分段二次函数逼近、查找表逼近和类神经网络方案。分段二次函数逼近的主旨是将Swish函数分成三段不同的二次函数进行拟合,再在硬件上实现二次函数的计算,同时设计状态机来减少加法器和乘法器的使用。查找表逼近主要是利用LUT实现缓存单元以完成Swish函数的输入输出映射的存储,使函数计算的本质更改为输入数据到查找表中找到其对应的输出数据。此外,本文基于类似于单层神经网络的感知机结构,提出了一种用简单神经网络实现Swish激活函数的方案。类神经网络的输入层神经元的数据均为0或1,输入层所有神经元全部组合在一起就是激活函数输入数据的二进制补码形式,输出层就是激活函数的输出数据,将输入层这样设置的目的是取消神经网络计算中的乘法计算,只使用加法即可完成神经网络的计算,减少了运算资源的消耗。本文还针对上述三种方案分别设计了三种激活函数硬件复用的架构,使用统一的硬件架构完成多种激活函数在同一设备上的实现,方便具体应用时无缝切换激活函数。本文最后在专用硬件架构上设计了一个使用多种缓存单元和一个运算阵列实现的卷积神经网络硬件加速器,并在加速器中使用本文提出的Swish函数的类神经网络硬件实现方案,用来验证该方案的可行性和准确性。实验表明,与传统激活函数硬件实现方案比较,本文所设计的激活函数加速器在满足神经网络准确性要求的前提下,在硬件资源以及计算效率上能够结合上述两种传统的通用激活函数实现方案的优势:对于硬件资源消耗,本文所设计加速器相比于查找表法减少了约50.4%;对于计算效率,本文所设计加速器相比于分段二次函数法快了约57.1%。