论文部分内容阅读
[摘要] 出口贸易系统受到国内国际诸多因素的影响,是一个演变的非线性复杂系统,而神经网络因其强大的非线性映射能力,特别适合于解决非线性的预测决策问题。本文从重庆市外贸出口的实际背景出发,采用三层BP神经网络进行实证预测,预测结果表明本文建立的模型具有较高的预测精度,可以作为相关部门制定出口贸易发展目标的参考依据。
[关键词] BP神经网络出口预测非线性预测
一、引言
出口贸易受到一国(或地区)的经济条件、自然条件、贸易政策等国内因素的影响,还受到国际市场需求变动、全球经济增长等国际因素的影响,且各影响因素以及相互之间存在非线性关系,因此,出口贸易是一个复杂时变的非线性系统。而传统的时间序列、线性回归等线性预测方法虽然具有简单、直观且解释性强的优点,但难以解决非线性的预测问题,因此非线性的预测方法越来越受到出口贸易预测研究者的重视。在其研究中表明中国外贸环境发生了较大变化,导致建立在原来数据结构之上的模型出现失真,而解决的方法就是将其非线性化。
而神经网络是目前应用得非常广泛的非线性预测方法,它具有强大非线性映射功能,具有很强的鲁棒性(robust)和容错性,适合于解决动态非线性出口贸易系统的预测决策问题。且神经网络的算法和模型较为成熟,预测结果可靠,在股市预测、证券预测、外汇预测、GDP预测、库存需求预测、产品成本定价、风险预测、财务报警等经济领域内皆有应用。本文将BP神经网络应用于重庆市出口贸易额的预测,建立起预测模型并进行实证预测,预测的结果可以作为相关部门制定重庆市出口贸易发展目标的决策参考依据。
二、预测模型结构设计
1.BP神经网络理论
BP神经网络(Back Propagation Neural Network)是一种按误差逆向传播算法训练的多层前馈神经网络,它由输入层、隐含层、输出层构成,每层由若干个神经元组成,各神经元的输出值由输入值、激活函数和阀值决定。
图1BP神经网络结构图
典型的单隐含层BP神经网络结构如图1所示,输入层、隐含层和输出层的神经元数分别为n、q、m,隐含层和输出层的激活函数分别为、,则网络输出:
(1)
假设输入P对学习样本,第p个样本的网络输出为,其期望输出为,则总体误差:
(2)
L-M(Levenberg-Marquardt)算法下的权值修正公式:
(3)
式中,J是误差对权值导数的雅可比矩阵:μ是一个能够自适应调整的非负标量;是单位矩阵;θ项保证可逆,否则JTJ可能不可逆;e是误差。
2.具体算法设计
(1)对数据进行预处理。。本文选用常用的线性函数对原始数据进行标准化的预处理,预处理的结果将原始数据映射到[0,1]的区间范围内,预处理公式为:
(4)
式中、分别是原始序列和预处理之后的序列;、分别是最小值和最大值。
(2)确定网络各项参数。BP网络的各项参数包括网络的隐含层数;输入层、隐含层和输出层神经元数;以及各层激活函数。
研究已经证明任意一個连续函数都能与含有一个S型隐含层和线性输出层的BP神经网络建立任意映射关系,因此本文选择单隐含层的BP网络模型,即三层BP模型。输入层和输出层的神经元数分别由输入数据和输出数据的维数确定。
隐含层神经元存储连接权值,体现了样本的内在规律,增加隐含层神经元数,能提高网络从样本中获取和概括信息的能力,但隐含层神经元数过多,又可能将噪声等样本中非规律性的信息学会并存储,从而出现“过度拟合”(Overfitting)的问题。因此在满足精度要求的前提下,隐含层应该选择尽可能小的神经元数。本文采用“试凑法”确定隐含层神经元数目,具体做法是先设置较少的隐含层神经元数来训练网络,然后逐渐增加隐含层神经元数,当隐含层神经元数增加而网络误差没有明显改善时,将临界的隐含层神经元数作为BP网络的隐含层神经元数。隐含层激活函数采用Sigmoid:,其中,是权值的加权和。输出层激活函数采用purelin纯线性函数。
(3)初始化网络。初始化各神经元的权值和阀值。
(4)网络学习训练。输入P对学习样本对网络进行训练,判断网络误差是否满足精度要求,如果满足精度要求,则结束训练,存储权值和阀值。如果不满足精度要求,则原路反向传播,并沿途修正各层神经元的权值和阀值,进入下一轮学习训练,当训练次数大于给定的最大训练次数仍不满足精度要求时,退出训练过程,调整网络参数并重新训练,即从2)开始重新调试。
三、实证预测
本文用于模型实证预测的时序数据为1987年到2005年重庆市出口贸易额历史数据,见表1。
表11987年~2005年重庆市历年出口贸易额 单位万美元
资料来源:1987年~2004年数据来源于《重庆统计年鉴——2005》,2005年数据来源于“重庆市对外贸易网”公布的数据。
通过反复多次调试,最后确定将顺序前四年的出口贸易额数据作为网络输入数据,后一年的出口贸易额数据作为输出数据,网络结构为4×6×1。利用2004年以前的数据训练网络,然后对2005年和2006年重庆市出口贸易额数据进行预测,预测结果分别为257374万美元和275869万美元,而传统的指数平滑、移动平均和自回归的预测结果见表2,预测曲线见图2。
从表2预测结果可以看出,BP神经网络预测的误差在3%以内,具有较高的预测精度;而指数平滑、移动平均和自回归预测的最大误差分别为26.57%、27.07%、10.91%,误差远大于BP神经网络的预测误差。再从图2的预测曲线来看,BP神经网络的预测曲线紧贴着实际数据变动,数据拟合效果好;而指数平滑、移动平均和自回归预测的预测曲线在实际数据出现明显波动时开始明显偏离实际数据,即这三种传统的预测方法不适合于非线性问题的预测。
表2不同预测方法的预测结果单位万美元
图2不同预测方法的预测曲线
四、结束语
表2数据和图2曲线表明,与指数平滑、移动平均和自回归预测相比,BP神经网络预测具有更高的预测精度和更好的数据拟合效果,符合重庆市出口贸易的实际,预测结果可服务于相关部门,作为制定重庆市出口贸易发展目标和调整出口结构的参考依据。
[关键词] BP神经网络出口预测非线性预测
一、引言
出口贸易受到一国(或地区)的经济条件、自然条件、贸易政策等国内因素的影响,还受到国际市场需求变动、全球经济增长等国际因素的影响,且各影响因素以及相互之间存在非线性关系,因此,出口贸易是一个复杂时变的非线性系统。而传统的时间序列、线性回归等线性预测方法虽然具有简单、直观且解释性强的优点,但难以解决非线性的预测问题,因此非线性的预测方法越来越受到出口贸易预测研究者的重视。在其研究中表明中国外贸环境发生了较大变化,导致建立在原来数据结构之上的模型出现失真,而解决的方法就是将其非线性化。
而神经网络是目前应用得非常广泛的非线性预测方法,它具有强大非线性映射功能,具有很强的鲁棒性(robust)和容错性,适合于解决动态非线性出口贸易系统的预测决策问题。且神经网络的算法和模型较为成熟,预测结果可靠,在股市预测、证券预测、外汇预测、GDP预测、库存需求预测、产品成本定价、风险预测、财务报警等经济领域内皆有应用。本文将BP神经网络应用于重庆市出口贸易额的预测,建立起预测模型并进行实证预测,预测的结果可以作为相关部门制定重庆市出口贸易发展目标的决策参考依据。
二、预测模型结构设计
1.BP神经网络理论
BP神经网络(Back Propagation Neural Network)是一种按误差逆向传播算法训练的多层前馈神经网络,它由输入层、隐含层、输出层构成,每层由若干个神经元组成,各神经元的输出值由输入值、激活函数和阀值决定。
图1BP神经网络结构图
典型的单隐含层BP神经网络结构如图1所示,输入层、隐含层和输出层的神经元数分别为n、q、m,隐含层和输出层的激活函数分别为、,则网络输出:
(1)
假设输入P对学习样本,第p个样本的网络输出为,其期望输出为,则总体误差:
(2)
L-M(Levenberg-Marquardt)算法下的权值修正公式:
(3)
式中,J是误差对权值导数的雅可比矩阵:μ是一个能够自适应调整的非负标量;是单位矩阵;θ项保证可逆,否则JTJ可能不可逆;e是误差。
2.具体算法设计
(1)对数据进行预处理。。本文选用常用的线性函数对原始数据进行标准化的预处理,预处理的结果将原始数据映射到[0,1]的区间范围内,预处理公式为:
(4)
式中、分别是原始序列和预处理之后的序列;、分别是最小值和最大值。
(2)确定网络各项参数。BP网络的各项参数包括网络的隐含层数;输入层、隐含层和输出层神经元数;以及各层激活函数。
研究已经证明任意一個连续函数都能与含有一个S型隐含层和线性输出层的BP神经网络建立任意映射关系,因此本文选择单隐含层的BP网络模型,即三层BP模型。输入层和输出层的神经元数分别由输入数据和输出数据的维数确定。
隐含层神经元存储连接权值,体现了样本的内在规律,增加隐含层神经元数,能提高网络从样本中获取和概括信息的能力,但隐含层神经元数过多,又可能将噪声等样本中非规律性的信息学会并存储,从而出现“过度拟合”(Overfitting)的问题。因此在满足精度要求的前提下,隐含层应该选择尽可能小的神经元数。本文采用“试凑法”确定隐含层神经元数目,具体做法是先设置较少的隐含层神经元数来训练网络,然后逐渐增加隐含层神经元数,当隐含层神经元数增加而网络误差没有明显改善时,将临界的隐含层神经元数作为BP网络的隐含层神经元数。隐含层激活函数采用Sigmoid:,其中,是权值的加权和。输出层激活函数采用purelin纯线性函数。
(3)初始化网络。初始化各神经元的权值和阀值。
(4)网络学习训练。输入P对学习样本对网络进行训练,判断网络误差是否满足精度要求,如果满足精度要求,则结束训练,存储权值和阀值。如果不满足精度要求,则原路反向传播,并沿途修正各层神经元的权值和阀值,进入下一轮学习训练,当训练次数大于给定的最大训练次数仍不满足精度要求时,退出训练过程,调整网络参数并重新训练,即从2)开始重新调试。
三、实证预测
本文用于模型实证预测的时序数据为1987年到2005年重庆市出口贸易额历史数据,见表1。
表11987年~2005年重庆市历年出口贸易额 单位万美元
资料来源:1987年~2004年数据来源于《重庆统计年鉴——2005》,2005年数据来源于“重庆市对外贸易网”公布的数据。
通过反复多次调试,最后确定将顺序前四年的出口贸易额数据作为网络输入数据,后一年的出口贸易额数据作为输出数据,网络结构为4×6×1。利用2004年以前的数据训练网络,然后对2005年和2006年重庆市出口贸易额数据进行预测,预测结果分别为257374万美元和275869万美元,而传统的指数平滑、移动平均和自回归的预测结果见表2,预测曲线见图2。
从表2预测结果可以看出,BP神经网络预测的误差在3%以内,具有较高的预测精度;而指数平滑、移动平均和自回归预测的最大误差分别为26.57%、27.07%、10.91%,误差远大于BP神经网络的预测误差。再从图2的预测曲线来看,BP神经网络的预测曲线紧贴着实际数据变动,数据拟合效果好;而指数平滑、移动平均和自回归预测的预测曲线在实际数据出现明显波动时开始明显偏离实际数据,即这三种传统的预测方法不适合于非线性问题的预测。
表2不同预测方法的预测结果单位万美元
图2不同预测方法的预测曲线
四、结束语
表2数据和图2曲线表明,与指数平滑、移动平均和自回归预测相比,BP神经网络预测具有更高的预测精度和更好的数据拟合效果,符合重庆市出口贸易的实际,预测结果可服务于相关部门,作为制定重庆市出口贸易发展目标和调整出口结构的参考依据。