论文部分内容阅读
一、引言
近些年由于气候变化导致了自然灾害频繁发生。其中由于强降雨造成的洪涝灾害，威胁着各地区居民的人身及财产安全。据水利部统计，就2020年入汛以来，截止至7月9日，全国就有16个省份有198条河流水位超过预警线之上。受灾人数达3020万人次，财产损失共计617.9亿元。城市的排水管网系统与民生问题息息相关。排水管网遍布于城市的地面之下，通过在管道中布置大量的传感器，来实现管道中的水位、污水流速等数据的采集。除了这类数据采集终端，还存在控制终端用来控制阀门的开合，或是监控某部分设施的实时状态。这些终端设施搭配后台服务器形成了一个完整的排水管网监控管理系统。硬件终端的可靠性直接決定了整个系统能否及时对该城市的排水系统状态进行反馈与控制。
这就要求系统的操作人员能够及时发现排水系统中所存在的故障或是对故障进行预警，从而保证该系统能够正常运作。因此需要研究出一个故障检测方法，能够通过现有数据结合算法来鉴别某部分数据是否存在问题从而实现对设备故障的检测，不仅如此还要能利用现有数据预测出数据的发展趋势，发现故障隐患并及时解决。
神经网络模型在故障检测以及故障预测中有着广泛的应用，本文对两种神经网络模型进行了分析，为找出适合排水系统故障检测的方法进行了研究。
二、神经网络模型介绍与应用
在排水系统中，能够得到的可以反应故障的数据包括时间、蓄电池状态、油温、环境温度、水位等。蓄电池的状态影响着其他各部件能否正常工作，油温过低可能也代表某部件发生了故障，做功减少使得部件不能够正常运行。环境温度在短时间内发生较大的改变，可能是温度传感器自身发生了故障，或是外界有物质泄露导致环境温度发生了改变。实时水位则能够间接的反应出排水管网的拥堵情况以及是否管网发生了破损。
因此，对于排水系统的故障检测需采取数据驱动的方法，根据数据的异常来推断出是否要发生故障，以及识别故障的发生部位。
（一）BP反向传播神经网络
BP神经网络全称为反向传播神经网络，是一种线性权重的激活函数模型。其每一层上都存在着多个代表神经元的节点。层与层任意两个节点之间都存在连接关系，同一层上任意两个节点之间不具有相互连接关系。输入一个向量，对向量加权处理后再交给隐含层神经元的激活函数中，再将函数的输出值进行加权处理从而最终交给输出层加权处理进而得到输出的值。在处理过程中可能会出现得到的输入层响应误差偏大的情况，BP神经网络就会将误差信号进行反馈调节，就是从输出层经过各中间层逐层向输入层进行传播，并调整各层连接的权值。通过输出层的误差信号反复反向传播并调整各个连接点的权值，使得最终输出与输入的误差达到最小，从而提高BP网络对输入信号响应的准确度。如果通过公式来表示，其中有m个输入和n个输出，还有输入层（I）、若干隐含层（O）以及输出层（H）。BP神经网络模型是通过沿着相对误差平方和的最快的下降方向，不断的修正权值和阀值，使得误差函数值达到最小。误差函数的表达式如下：
其中为输出的结果; 为实际值。BP神经网络结构如图 1所示：
BP神经网络的学习过程就是将提供的排水系统数据输入到神经网中，经过处理后输出，输出不满足要求，再进行神经元间连接权值进行调整，使得输出的值在预计范围内。此时就完成了对一份样本的学习过程，进而将学习后的新知识保存到样品库中。排水系统故障检测过程利用BP神经网络，将输出的计算结果与正常范围内结果进行对比，从而分析出故障原因。并且在故障检测结束后还能通过新得到的故障数据再进行学习，拓展知识库使得结果的误差变得更小。
利用BP神经网络对排水系统进行故障检测多与故障树方法相结合，利用故障树找到可能发生某个故障的全部原因，将故障现象作为输入值，通过训练学习得到的样本库输出结果，所得到的结果就是故障原因。
BP神经网络虽然十分经典，但它也具有一定的缺点，本质上BP神经网络是线性权函数的接近，同一层级间各个数据之间并没有联系，如果同一层级各个数据间前后存在联系时，BP神经网络就会变得不适用，如果不把前一个数据作为后一个数据的输入的话，本质上该算法无法挖掘到数据产生的模式。对于挖掘时间序列内部模式的需求就变得无法满足。还需要结合其他模型才能够达到故障预测目的。
（二） LSTM长短期记忆神经网络
LSTM神经网络全称为长短期记忆网络，它是在循环神经网络的基础上被开发研究出来的。循环神经网络通过在不同层之间的神经元间建立的权连接来使不同节点的数据前后去的关联，因此循环神经网络能够很好的解决BP神经网络无法解决的序列问题。但正是因为这样，需要把上次计算得到的输出变为下一次计算的输入，这实际上是一个迭代和嵌套函数的过程。在数据量过大的情况下，由于不断的进行链式求导计算，就很可能出现指数爆炸的情况，也就是会产生梯度消失和梯度爆炸问题。还可能会由于序列过长使得重要信息在一开始就被遗漏。
为了克服这些问题， 在RNN的基础上，Hochreiter和Schmidhuber提出了长短期记忆网络的概念。引入了输入门、输出门以及遗忘门细胞机制，其基本结构如下图 2所示：
在门内可以对信息进行调节，并且能够知道数据序列中哪些数据需要保留，哪些数据可以被删除。随后沿着长链进行数据传递以实现数据预测的目的。
细胞状态的更新通过输入门来完成。在这一层会将上一层得到的隐藏状态信息结合当前信息传输给sigmoid函数。并将值调整在[0，1]之间，从而决定要更新哪些信息。
上一层的到的隐藏状态信息和当前信息还需要得到一个新的候选值向量。这个过程经由tanh函数来实现，将sigmoid函数的输出值与tanh函数的输出值进行相乘，利用sigmoid函数来决定tanh函数的输出值中哪些数据需要得以保留。 遗忘门负责决定有哪些数据需要遗忘，哪些数据需要被记忆，通过得到前一个隐藏状态信息再结合当前输入的信息经由sigmoid函数来生成一个在[0，1]区间上的值，值越趋近于1则应被记忆，反之应该被遗忘。
由于排水系统所采集到的流量、压力等数据具有较强的时序性。并且在排水系统故障诊断的研究中，随着时间的增加，传感器的稳定状态也会相应的发生改变，因此LSTM处理时间序列的能力能够很好的应用在排水系统故障诊断中。
输出门能够确定下一个隐藏状态的值。同样的，将一个隐藏状态和当前输入传递到sigmoid函数中，更新现有的细胞状态，再讲细胞状态传递到tanh函数中。将过程中得到的两个输出相乘，从而确定隐藏状态应携带的信息。最后将隐藏状态作为当前细胞的输出，把现在的细胞状态以及隐藏状态传递到下一段时间序列中。
细胞状态的更新是通过将前一层的细胞状态与遗忘向量逐点相乘，所得到的值越趋近于0，证明这个值越应该被丢弃。进而将该值与输入门的输出值逐点相加，在此过程中将神经网络所发现的新信息加入到细胞状态中，就完成了细胞状态的更新。
基于上面这些特性，LSTM算法具有很好的提取数据时序特征的能力，但随着长链进行传递，LSTM所需要训练的权重也会变多，因此LSTM神经网络的缺点是训练过程复杂，需要多次训练才能够得到收敛的误差函数。
LSTM算法对故障进行预测，可以将无故障状态下的水位，水体流速，环境温度等数据进行训练。在训练完成后将数据输入训练集，对结果进行预测，通过设定阈值来对预测数据进行对比，在阈值之外的数据即为异常。借助可视化手段也能够直观的看出真实数据是否脱离正常状态。以达到对故障进行检测的目的。
（三）CNN卷积神经网络
CNN神经网络全称为卷积神经网络，是一种典型的前驱神经网络，常用在图像识别、文字处理等领域。具有很好的滤除噪声以及针对提取出来的特征信息进行分类归纳的能力。从神经网络的结构上来看，CNN主要分为卷积层、池化层和全连接网络三大部分组成。
在卷积层通过卷积核对输入数据的局部特征进行卷积运算，实现对空间特征的提取。同时还实现了对数据的降维操作，简化了后续的训练过程。对于排水系统来说，传感器采集到的管路数据种类繁多，数量庞大，寻找合适的特征提取方式显得尤为重要。卷积层中各个层级的权值相等，共用同一个卷积核，每次使用相同步长遍历输入数据，从而大大减少卷积层的参数，防止参数过多造成的过拟合现象。因此看起来CNN和排水系统数据适应性较强，便于对排水系统数据进行特征提取操作。
池化层和卷积层的作用相近，能够用来降低数据的原始特征数量。他们的不同点在于，数据通过卷积层，会使矩阵深度发生改变，然而经过池化层不会使矩阵的深度发生改变，而是会改变节点矩阵的大小。
最后一层是全连接层，这一层将会采用softmax函数将处理后的输出根据提取出来的特征进行分类。
虽然CNN具有良好的提取空间特征的能力，但也会出现训练结果没有收敛在全局最小值、在池化层丢失大量有价值信息的情况，所以在使用卷积神经网络对排水系统的故障分类时需要针对这些缺点来进行改进。
三、结语
对排水系统进行故障诊断，主要采取数据驱动的方法，結合神经网络辅以故障树、支持向量机等其他方法来实现。本文介绍了BP神经网络、LSTM神经网络与CNN神经网络的工作原理，针对排水系统的故障检测分析了两种神经网络在数据处理中存在的优缺点，BP神经网络更加经典，能够解决求解内部机制复杂的问题，但由于其同一层级间的数据没有关联，导致基于时间序列的数据不能够被处理。使用LSTM神经网络很好的解决了时间序列的问题，使得同一层级间的数据能够相互关联，但相对于BP神经网络，LSTM神经网络学习的代价更高，训练的难度更大。因此对排水系统的故障诊断若使用BP神经网络则还需要佐以其他算法，形成新的组合模型来进行基于时间序列的故障检测。若使用LSTM算法在训练的过程中则需要更大的开销，训练复杂度也会大大降低。CNN神经网络能够有效的提取排水系统数据的空间特征，降低维度，提高模型的学习率，但也存在丢失有价值信息，处理时序数据能力较差的特点。因此如果将算法进行融合，取长补短，研究出更适合排水系统故障诊断的算法，是进一步需要研究的问题。
近些年由于气候变化导致了自然灾害频繁发生。其中由于强降雨造成的洪涝灾害，威胁着各地区居民的人身及财产安全。据水利部统计，就2020年入汛以来，截止至7月9日，全国就有16个省份有198条河流水位超过预警线之上。受灾人数达3020万人次，财产损失共计617.9亿元。城市的排水管网系统与民生问题息息相关。排水管网遍布于城市的地面之下，通过在管道中布置大量的传感器，来实现管道中的水位、污水流速等数据的采集。除了这类数据采集终端，还存在控制终端用来控制阀门的开合，或是监控某部分设施的实时状态。这些终端设施搭配后台服务器形成了一个完整的排水管网监控管理系统。硬件终端的可靠性直接決定了整个系统能否及时对该城市的排水系统状态进行反馈与控制。
这就要求系统的操作人员能够及时发现排水系统中所存在的故障或是对故障进行预警，从而保证该系统能够正常运作。因此需要研究出一个故障检测方法，能够通过现有数据结合算法来鉴别某部分数据是否存在问题从而实现对设备故障的检测，不仅如此还要能利用现有数据预测出数据的发展趋势，发现故障隐患并及时解决。
神经网络模型在故障检测以及故障预测中有着广泛的应用，本文对两种神经网络模型进行了分析，为找出适合排水系统故障检测的方法进行了研究。
二、神经网络模型介绍与应用
在排水系统中，能够得到的可以反应故障的数据包括时间、蓄电池状态、油温、环境温度、水位等。蓄电池的状态影响着其他各部件能否正常工作，油温过低可能也代表某部件发生了故障，做功减少使得部件不能够正常运行。环境温度在短时间内发生较大的改变，可能是温度传感器自身发生了故障，或是外界有物质泄露导致环境温度发生了改变。实时水位则能够间接的反应出排水管网的拥堵情况以及是否管网发生了破损。
因此，对于排水系统的故障检测需采取数据驱动的方法，根据数据的异常来推断出是否要发生故障，以及识别故障的发生部位。
（一）BP反向传播神经网络
BP神经网络全称为反向传播神经网络，是一种线性权重的激活函数模型。其每一层上都存在着多个代表神经元的节点。层与层任意两个节点之间都存在连接关系，同一层上任意两个节点之间不具有相互连接关系。输入一个向量，对向量加权处理后再交给隐含层神经元的激活函数中，再将函数的输出值进行加权处理从而最终交给输出层加权处理进而得到输出的值。在处理过程中可能会出现得到的输入层响应误差偏大的情况，BP神经网络就会将误差信号进行反馈调节，就是从输出层经过各中间层逐层向输入层进行传播，并调整各层连接的权值。通过输出层的误差信号反复反向传播并调整各个连接点的权值，使得最终输出与输入的误差达到最小，从而提高BP网络对输入信号响应的准确度。如果通过公式来表示，其中有m个输入和n个输出，还有输入层（I）、若干隐含层（O）以及输出层（H）。BP神经网络模型是通过沿着相对误差平方和的最快的下降方向，不断的修正权值和阀值，使得误差函数值达到最小。误差函数的表达式如下：
其中为输出的结果; 为实际值。BP神经网络结构如图 1所示：
BP神经网络的学习过程就是将提供的排水系统数据输入到神经网中，经过处理后输出，输出不满足要求，再进行神经元间连接权值进行调整，使得输出的值在预计范围内。此时就完成了对一份样本的学习过程，进而将学习后的新知识保存到样品库中。排水系统故障检测过程利用BP神经网络，将输出的计算结果与正常范围内结果进行对比，从而分析出故障原因。并且在故障检测结束后还能通过新得到的故障数据再进行学习，拓展知识库使得结果的误差变得更小。
利用BP神经网络对排水系统进行故障检测多与故障树方法相结合，利用故障树找到可能发生某个故障的全部原因，将故障现象作为输入值，通过训练学习得到的样本库输出结果，所得到的结果就是故障原因。
BP神经网络虽然十分经典，但它也具有一定的缺点，本质上BP神经网络是线性权函数的接近，同一层级间各个数据之间并没有联系，如果同一层级各个数据间前后存在联系时，BP神经网络就会变得不适用，如果不把前一个数据作为后一个数据的输入的话，本质上该算法无法挖掘到数据产生的模式。对于挖掘时间序列内部模式的需求就变得无法满足。还需要结合其他模型才能够达到故障预测目的。
（二） LSTM长短期记忆神经网络
LSTM神经网络全称为长短期记忆网络，它是在循环神经网络的基础上被开发研究出来的。循环神经网络通过在不同层之间的神经元间建立的权连接来使不同节点的数据前后去的关联，因此循环神经网络能够很好的解决BP神经网络无法解决的序列问题。但正是因为这样，需要把上次计算得到的输出变为下一次计算的输入，这实际上是一个迭代和嵌套函数的过程。在数据量过大的情况下，由于不断的进行链式求导计算，就很可能出现指数爆炸的情况，也就是会产生梯度消失和梯度爆炸问题。还可能会由于序列过长使得重要信息在一开始就被遗漏。
为了克服这些问题， 在RNN的基础上，Hochreiter和Schmidhuber提出了长短期记忆网络的概念。引入了输入门、输出门以及遗忘门细胞机制，其基本结构如下图 2所示：
在门内可以对信息进行调节，并且能够知道数据序列中哪些数据需要保留，哪些数据可以被删除。随后沿着长链进行数据传递以实现数据预测的目的。
细胞状态的更新通过输入门来完成。在这一层会将上一层得到的隐藏状态信息结合当前信息传输给sigmoid函数。并将值调整在[0，1]之间，从而决定要更新哪些信息。
上一层的到的隐藏状态信息和当前信息还需要得到一个新的候选值向量。这个过程经由tanh函数来实现，将sigmoid函数的输出值与tanh函数的输出值进行相乘，利用sigmoid函数来决定tanh函数的输出值中哪些数据需要得以保留。 遗忘门负责决定有哪些数据需要遗忘，哪些数据需要被记忆，通过得到前一个隐藏状态信息再结合当前输入的信息经由sigmoid函数来生成一个在[0，1]区间上的值，值越趋近于1则应被记忆，反之应该被遗忘。
由于排水系统所采集到的流量、压力等数据具有较强的时序性。并且在排水系统故障诊断的研究中，随着时间的增加，传感器的稳定状态也会相应的发生改变，因此LSTM处理时间序列的能力能够很好的应用在排水系统故障诊断中。
输出门能够确定下一个隐藏状态的值。同样的，将一个隐藏状态和当前输入传递到sigmoid函数中，更新现有的细胞状态，再讲细胞状态传递到tanh函数中。将过程中得到的两个输出相乘，从而确定隐藏状态应携带的信息。最后将隐藏状态作为当前细胞的输出，把现在的细胞状态以及隐藏状态传递到下一段时间序列中。
细胞状态的更新是通过将前一层的细胞状态与遗忘向量逐点相乘，所得到的值越趋近于0，证明这个值越应该被丢弃。进而将该值与输入门的输出值逐点相加，在此过程中将神经网络所发现的新信息加入到细胞状态中，就完成了细胞状态的更新。
基于上面这些特性，LSTM算法具有很好的提取数据时序特征的能力，但随着长链进行传递，LSTM所需要训练的权重也会变多，因此LSTM神经网络的缺点是训练过程复杂，需要多次训练才能够得到收敛的误差函数。
LSTM算法对故障进行预测，可以将无故障状态下的水位，水体流速，环境温度等数据进行训练。在训练完成后将数据输入训练集，对结果进行预测，通过设定阈值来对预测数据进行对比，在阈值之外的数据即为异常。借助可视化手段也能够直观的看出真实数据是否脱离正常状态。以达到对故障进行检测的目的。
（三）CNN卷积神经网络
CNN神经网络全称为卷积神经网络，是一种典型的前驱神经网络，常用在图像识别、文字处理等领域。具有很好的滤除噪声以及针对提取出来的特征信息进行分类归纳的能力。从神经网络的结构上来看，CNN主要分为卷积层、池化层和全连接网络三大部分组成。
在卷积层通过卷积核对输入数据的局部特征进行卷积运算，实现对空间特征的提取。同时还实现了对数据的降维操作，简化了后续的训练过程。对于排水系统来说，传感器采集到的管路数据种类繁多，数量庞大，寻找合适的特征提取方式显得尤为重要。卷积层中各个层级的权值相等，共用同一个卷积核，每次使用相同步长遍历输入数据，从而大大减少卷积层的参数，防止参数过多造成的过拟合现象。因此看起来CNN和排水系统数据适应性较强，便于对排水系统数据进行特征提取操作。
池化层和卷积层的作用相近，能够用来降低数据的原始特征数量。他们的不同点在于，数据通过卷积层，会使矩阵深度发生改变，然而经过池化层不会使矩阵的深度发生改变，而是会改变节点矩阵的大小。
最后一层是全连接层，这一层将会采用softmax函数将处理后的输出根据提取出来的特征进行分类。
虽然CNN具有良好的提取空间特征的能力，但也会出现训练结果没有收敛在全局最小值、在池化层丢失大量有价值信息的情况，所以在使用卷积神经网络对排水系统的故障分类时需要针对这些缺点来进行改进。
三、结语
对排水系统进行故障诊断，主要采取数据驱动的方法，結合神经网络辅以故障树、支持向量机等其他方法来实现。本文介绍了BP神经网络、LSTM神经网络与CNN神经网络的工作原理，针对排水系统的故障检测分析了两种神经网络在数据处理中存在的优缺点，BP神经网络更加经典，能够解决求解内部机制复杂的问题，但由于其同一层级间的数据没有关联，导致基于时间序列的数据不能够被处理。使用LSTM神经网络很好的解决了时间序列的问题，使得同一层级间的数据能够相互关联，但相对于BP神经网络，LSTM神经网络学习的代价更高，训练的难度更大。因此对排水系统的故障诊断若使用BP神经网络则还需要佐以其他算法，形成新的组合模型来进行基于时间序列的故障检测。若使用LSTM算法在训练的过程中则需要更大的开销，训练复杂度也会大大降低。CNN神经网络能够有效的提取排水系统数据的空间特征，降低维度，提高模型的学习率，但也存在丢失有价值信息，处理时序数据能力较差的特点。因此如果将算法进行融合，取长补短，研究出更适合排水系统故障诊断的算法，是进一步需要研究的问题。