神经网络论文(6篇)
神经网络论文篇1
【关键词】混合时滞神经网络稳定性分析
【中图分类号】G642【文献标识码】A【文章编号】2095-3089(2016)04-0237-02
人工神经网络是基于人脑的功能,通过建构与生物神经元类似的电路结构,从而在微观的层次上实现对人类智能的仿真。神经网络是由神经元的相互连接而形成的,反映在数学中,神经元实质上就是适当的函数,也被称为激活函数。神经网络在模式识别、优化计算、智能控制以及联想记忆等领域得到了广泛的应用,发展前景非常的广阔[1]。
一、混合时滞神经网络发展的脉络
稳定性研究的开始可以追溯到十九世纪末期的Lyapunov理论和Poincare理论,在我国对稳定性进行充分研究的是著名物理学家钱学森,钱学森在其著名的《工程控制论》中,明确指出,稳定性是系统控制的第一要求。美国的著名数学家LsSalle也说过,吸引全世界的数学家注意的点就是稳定性。由此可见,稳定性在数学研究中具有极其重要的作用[2]。
大部分的动力系统都会随着时间的演化不仅依赖于系统的当前状态,并且还会依赖于系统过去的某个时刻,这就是被科学家们称作的时滞动力系统。在工程系统中,时滞一般是指对测控过程中的测量时滞、形成控制决策所需要的时滞以及信号传输中的时滞等,这也是为什么大部分的动力学系统都需要时滞动力系统来进行描述的主要原因。事实上,时滞系统的初始状态空间是一个无限维的空间,而且没有特殊的性质,因此对其进行理论分析非常困难[3]。
二、混合时滞神经网络稳定性的发展研究分析
系统的稳定性在神经网络的应用中非常的广泛,如最优化的问题研究、模式识别研究以及图像处理研究等,都需要运用系统的稳定性。在上个世纪,有很多文献都给出了不同类型神经网络的稳定性判据,最著名的当属Hopfield神经网络。神经网络规模的应用范围也在不断的扩大,人们对时滞神经网络模型的研究也越来越深入。时滞通常是由定时的时滞发展到连续分布的时滞。当前神经网络稳定性的研究领域运用的主要方法就是Lyapunov泛函,然后再利用不同的不等式来对不等式进行分析,从而得到具有稳定性的数据[4]。
在优化问题的应用中,需要根据问题的基本特征,对设计所要求的神经网络达到唯一的、全局的渐进稳定的平衡点。当神经网络应用于实时的计算时,为了有效的提高收敛的速度,就需要神经网络必须具有非常高的指数收敛度。这也是时滞神经网络的全局渐近稳定性与全局指数稳定性研究如此吸引人的最为主要的原因。时滞反馈网络的应用和研究需要大量的具有稳定性的数据作为基础,因此,人们需要在不断扩展的网络模型的条件下放宽对网络中所有参数和激励函数的限制。只有这样,才能更好的促进神经网络研究的快速发展[5]。
目前,对时滞反馈神经网络解的稳定性进行判别和分析的主要方法是Lyapunov方法,在进行判别和分析时,需要同时结合泛函数的分不等式稳定性理论来推导网络解的稳定性,通过这一方法能够将稳定性的研究放到某个适当的定义系统的轨迹上,而且通过对这些泛函数的研究分析,能够得到稳定性的相应条件。这些稳定性条件的最常用的表述形式就是我们经常用的线矩不等式、系数矩阵的范数不等式以及Hanalay微分不等式。在这一研究领域,由于线矩不等式方法对系统的参数的限制比其它方法要少,而且比较容易验证,因此,这种方法在稳定性理论的研究中应用的非常的广泛[6]。
三、混合时滞神经网络的稳定性分析研究
最近几年,随着人们对稳定性研究的进一步发展,人们对于驱动-响应系统的同步问题更加的重视,而且经过大量的实践和理论分析,人们发现驱动-响应系统是包含同样的激活函数的。但是,在实际的模型中,驱动-响应系统却含有不同的激活函数,需要对非恒同的情况进行分析研究,也就是说驱动-响应系统的激活函数含有不相匹配的参数,致使对混沌系统的同步控制变得更加的复杂。由此可知,研究混合时滞神经网络的稳定性是非常有必要的[7]。
如下混合时滞神经网络
其中,是神经元的状态,
。在(1)中,是定义在上的实值内部函数。代表离散时滞,表示分布时滞;代表外部输入;;,,,分别代表连接权矩阵,离散时滞连接权矩阵和分布时滞连接权矩阵。
对于如下两种情形的时滞,
第一种情形是,如果所有的和给定的标量、h>0和,
是一个可微函数,且满足以下条件:,,
是一个连续函数且满足以下条件
。。
第二种情形是,如果所有的和给定的标量、h>0和,且和都是连续的函数,且函数和函数满足以下条件:
。
假设是系统(1)的平衡点,那么会得到如下系统
根据上面的条件我们可以得出对于混合时滞神经网络系统(2),在满足一定条件的第一种情况和第二种情况下,它的平衡点是全局指数稳定的[8]。
时滞神经网络的稳定性在理论和实践方面都得到了广泛的研究,但是对混合时滞的神经网络模型稳定性的研究并不是很多。除此之外,在神经网络稳定性的研究领域,虽然有很多大量的判别条件,不过由于大部分的条件都需要采用计算矩阵范数的方法来进行,在进行验证的时候也比较的困难,而且限制条件也非常的严格,在实际中的应用比较少。通过利用线性矩阵不等式研究神经网络的稳定性能够在很大程度上克服以上提及的缺点,所得到的条件更少保守,并且更容易得到充分的验证[9]。
线性矩阵不等式的研究在最近几年受到人们的广泛关注的原因,既有理论方面的原因,也有实践方面的原因。从理论上来说,人们可以利用很多的矩形运算技巧来对线性矩阵不等式问题进行研究和推理;但是,从实际的观点来说,线性矩阵不等式问题也可以凭借数值算法并借助电脑的强大的运算能力从而快速、有效的求出数值解,最终使得线性矩阵不等式的求解变得更加的容易控制,从而使问题的解决更加可行。假设可以将一个复杂的问题转换成线性矩阵不等式问题,那么就能够利用Matab的LMIToolbox进行求解了。
运用线性矩阵的不等式对混合时滞条件下的神经网络的稳定性进行研究分析,可以充分掌握神经网络的全局指数的稳定性。通过建构新的Lyapunov-Krasovkii泛函,利用随机微分与矩阵变换技巧导出线性矩阵不等式的稳定性数据。由于线性矩阵不等式的稳定性数据比利用矩阵范数进行估计的判据更为保守,因此,人们可以利用MATLAB提供的线性矩阵不等式工具箱进行求解验证,从而真正应用于实践[10]。
人们按照Lyapunov的稳定性理论,建构了新型的Lyapunov-Krasovskii泛函。从而对混合时滞条件下神经网络的稳定性进行了科学、合理的分析。在对混合时滞条件下的神经网络的稳定性进行分析时,线性矩阵不等式的应用为对时滞稳定性的进一步研究提供了有利的条件。同时,对网络中所包含的随机扰动采用了随机微分公式的讨论模式,从而使得混合时滞条件下的神经网络能够应用Lyapunov的稳定性讨论技巧与方法。在模型中对激活函数或者连接权矩阵的限制对混合时滞条件下的神经网络的研究深有帮助,而且采用线性矩阵不等式的表示方式,比之前的矩阵范数的判别条件要更加的有利。
四、结语
综上所述,混合时滞条件下的神经网络的稳定性分析是以Lyapunov的稳定性理论与线性矩阵不等式技术为基础,同时利用积分不等式的方法,对混合时滞条件下的神经网络的稳定性进行了科学、合理的分析,并给出了时滞依赖指数稳定性的基本准则,从而将对混合时滞条件下的神经网络的稳定性的研究又向前推进了一大步。
参考文献:
[1]武志鹏.带有混合时滞的神经网络的稳定性分析[D].山西大学,2008.
[2]刘晓琳.混合变时滞神经网指数稳定性分析[D].曲阜师范大学,2009.
[3]王宁,孙晓玲.基于LMI的混合时滞随机神经网络指数稳定性[J].计算机仿真,2010,07:125-129.
[4]张金.具混合时滞的随机神经网络的稳定性分析[J].苏州大学学报(自然科学版),2011,02:16-22.
[5]吴文娟,刘德友,张静文,刘海涛.具有混合时滞的随机Hopfield神经网络的稳定性分析[J].兰州理工大学学报,2011,03:89-93.
[6]陈一鸣,徐增辉,赵所所,周志全.具有混合时滞随机离散神经网络的渐近稳定性分析[J].郑州大学学报(理学版),2011,04:33-38.
[7]耿立杰,李海颖,张晓静,苏广.具有混合时滞的随机反应扩散神经网络指数稳定性[J].工程数学学报,2014,05:687-696.
[8]龙述君,张永新,向丽.具有混合时滞的随机细胞神经网络的稳定性分析[J].四川师范大学学报(自然科学版),2012,06:796-801.
神经网络论文篇2
现通过对时用水量变化规律的研究,提出以神经网络法预测城市短期用水量。
1城市供水管网用水量变化规律
在我国城市供水系统中,用水量一般包括居民生活用水、工矿企业生产用水和公共事业用水等。同一城市在一天内的不同时段,用水量会发生显著变化。
虽然城市用水量的变化受气候、生活习惯、生产和生活条件等诸多因素的影响,变化情况也较为复杂,但通过分析不难发现:城市用水量曲线呈现三个周期性的变化,即:一天(24h)为一个周期、一星期(7d)为一个周期、一年(365d)为一个周期,并受增长因素(人口增长,生产发展)的影响。若将预测时段取为1h,则季节因素和增长因素的影响就显得十分缓慢,因此管网时用水量的变化具有两个重要特征:随机性和周期性。
2人工神经网络模型
采用目前应用最广泛的多层前馈神经网络模型(BP模型)来预测用水量。BP网络由输入层、输出层及隐含层组成,隐含层可有一个或多个,每层由若干个神经元组成。最基本的三层BP神经网络的结构如图1所示。隐含单元与输入单元之间、输出单元与隐含单元之间通过相应的传递强度逐个相互联结,用来模拟神经细胞之间的相互联结[1~4]。
BP神经网络采用误差反馈学习算法,其学习过程由正向传播(网络正算)和反向传播(误差反馈)两部分组成。在正向传播过程中,输入信息经隐含单元逐层处理并传向输出层,如果输出层不能得到期望的输出,则转入反向传播过程,将实际值与网络输出之间的误差沿原来的联结通路返回,通过修改各层神经元的联系权值而使误差减小,然后再转入正向传播过程,反复迭代,直到误差小于给定的值为止。
假设BP网络每层有N个处理单元,训练集包括M个样本模式对(Xk,Yk)。对第p个训练样本p,单元j的输入总和记为netpj,输出记为Opj,则:
如果任意设置网络初始权值,那么对每个输入模式p,网络输出与期望输出一般总有误差,定义网络误差EP:
式中dPj——对第p个输入模式输出单元j的期望输出
可改变网络的各个权重Wij以使EP尽可能减小,从而使实际输出值尽量逼近期望输出值,这实际上是求误差函数的极小值问题,可采用梯度最速下降法以使权值沿误差函数的负梯度方向改变。
BP算法权值修正公式可以表示为:
式中δpj——训练误差
t——学习次数
η——学习因子
f′——激发函数的导数
η取值越大则每次权值的改变越剧烈,这可能导致学习过程发生振荡,因此为了使学习因子的取值足够大而又不致产生振荡,通常在权值修正公式中加入一个势态项[5],得:
式中α——常数,势态因子
α决定上一次学习的权值变化对本次权值新的影响程度。
3时用水量预测
3.1方法
利用BP神经网络预测时用水量分为三大步骤:第一步为训练样本的准备和归一化,第二步为神经网络的训练,第三步是利用训练后的神经网络对用水量进行预测[6]。
由于用水量的数值较大,应对其进行一定的预处理,一般可采用初值化、极值化或等比变换。通过这些变换可有效地缩短神经网络训练时间,从而加快网络收敛速度。
3.2实例
采用华北某市2000年24h用水量的实测数据进行预测。在应用神经网络预测模型预测时用水量时,建立了时用水量数据库,共收集了240个样本,每个样本包括24h的时用水量资料。
通过选取不同的输入样本数及不同的隐层单元个数来比较其训练与预测结果的最大相对误差、均方差、程序运行时间以决定网络的结构。经过比较,最后决定采用一个隐层、12个隐层单元、24个输出单元的BP网进行训练,训练过程中均采用24h的时用水量作为输入与输出节点(即Opi与Opj)。
由于时用水量变化具有趋势性、周期性及随机扰动性的特点,故预测样本的变化规律将直接影响预测结果的变化趋势,所以在预测时应根据预测对象的情况,选择适当的样本进行预测。
①预测次日24h的时用水量(或某一时刻的用水量)
a.如果这一天处于工作日则选取上一工作日的用水量作为输入样本进行训练,然后预测次日的时用水量。预测结果见图2,与实际用水量的相对误差为-0.02%~0.01%。
b.如果预测日为周末(即周六或周日)则选取前一周(包括上周周末)的实测数据进行训练以使预测更加准确,预测结果见图3。与实际用水量的相对误差为-2%~1%。
②预测一个月的时用水量
可以选取上个月的数据进行训练,也可以选取去年或连续几年同月的时用水量进行预测,不过训练样本数越大、训练时间越长则预测精度越高。预测结果见图4,与实际用水量的相对误差在±1%以内。
3.3预测效果比较
为了考察神经网络模型对城市时用水量的预测效果,同时采用时间序列三角函数分析法、灰色系统理论预测法、小波分析法对上述实例进行了预测,结果表明:时间序列三角函数分析法的预测误差一般为±5%~±7%;灰色系统理论预测法的预测误差大一些,为±5%~±50%;小波分析法误差范围为0%~±25%;而神经网络的最大误差不超过±1%。
可见,神经网络方法对城市时用水量的预测效果明显好于其他方法。
4结语
人工神经网络是一门新兴的交叉学科,利用BP网络进行预测能拟合任意的非线性函数并且具有准确、简单等特点,实际应用结果表明,用它来预测时用水量是可行的。
参考文献:
[1]HaganMT,MenhajMB.TrainingfeedforwardnetworkswithMarquartalgorithm[J].IEEETransonNeuralNetworks,1994,5(6):989-993.
[2]KanadChakraborty,ChilukuriKMohan.Forecastingthebehaviorofmultivariatetimeseriesusingneuralnetworks[J].NeuralNetworks,1992,(5):961-970.
[3]SietsmaJ,DowRJF.Backpropagationnetworksthatgeneralize[J].NeuralNetworks,1999,(12):65-69.
[4]邵良彬,高树林.基于人工神经网络的投资预测[J].系统工程理论与实践,1997,17(2):67-71.
神经网络论文篇3
BP神经网络模型的建立
卧虎山水库位于济南市历城区南部仲宫镇境内,处于泰山北麓的锦绣川、锦阳川和锦云川3川汇流的玉符河上游河口,是全国321座大型水库之一,是南部山区水系的重要汇聚地,济南地表水和泉水的重要补给区和供水水源地,主要供给济南市经十路以南约40万居民的饮用水。卧虎山水库集防洪、城市供水、农田灌溉为一体,水库水质直接影响到济南市的城市饮用水安全及其他生态环境。因此,选取具有典型代表性的卧虎山水库水质污染指标为实例进行水库水质评价,使该评价模型具有一定的通用性和泛化能力。
卧虎山水库水量主要来源于区域内降雨形成的地表径流补给,根据卧虎山水库水源特点,于2010年8月至2011年12月在水库设置监测断面进行采样检测。根据本地区的污染情况和水库功能,选择水质分析监测指标主要有:溶解氧、高锰酸钾指数、氨氮、总磷、总氮和六价铬。采样及样品保存和运输的过程均执行国家《水和废水监测分析方法﹙第3版﹚》的规程,具体的监测结果见表1。利用监测的6项水质指标建立适用于卧虎山水库水质评价的BP神经网络模型,并利用这一模型对22个样品的水质进行评价。
1输入层、隐含层和输出层的确定
此次评价选用溶解氧、高锰酸盐指数、氨氮、总磷、总氮、六价铬6项评价指标,作为BP神经网络的输入层神经元,以GB3838—2002《中华人民共和国地表水环境质量标准》中的标准水质分界值作为模型的评价依据。模型中输入层的神经元个数为6,分别为6项水质评价指标,地表水环境的质量标准水质分为5个等级C类—Ⅴ类。因而,BP网络模型输出层有5个神经元,隐含层神经元数目由下面公式确定:隐含层神经元数目=√m+n+α。其中,m为输入层神经元数,n为输出层神经元数,α为1~10的常数。根据此公式及试错法确定隐含层神经元数为11,从而得到一个结构为6115的BP神经网络,如图2所示。
2数据的预处理
为了加快网络训练的收敛速度,需要对输入的水质数据信息做标准化处理。数据处理时不仅要求对网络输入数据进行合理的压缩,而且能够体现出原始输入数据之间的区别,因此选取采用压缩系数法对输入数据做预处理。其公式如下:式中,X为原始数据;α为压缩系数,其取值范围为﹙0,1﹚,需根据具体的对象选取;T为预处理后的数据。
3样本训练
国家地表水环境质量标准﹙GB3838—2002﹚给出了对应于各类水质指标的污染物质量浓度的边界值,当所取某些样品的检测数据信息都在某一类标准水质指标范围内时,则其必定属于该类水。因此可参照文献的方法,生成C类—Ⅴ类这5类水质样本各100个,共500个样本,作为BP神经网络用于卧虎山水库水质评价的训练、检验和测试样本。其中,在这5类水质样本中各抽取80个,共400个作为训练样本,剩余100个作为检验和测试样本。
鉴于已对输入数据做了标准化处理,因此,为了方便识别训练结果,可以将BP神经网络模型对输入样本的输出模式设定为:优﹙1,0,0,0,0﹚,良﹙0,1,0,0,0﹚,较好﹙0,0,1,0,0﹚,较差﹙0,0,0,1,0﹚,极差﹙0,0,0,0,1﹚;则相对应的水质为C、Ⅱ、Ⅲ、Ⅳ和Ⅴ类水质标准。程序实现基于MATLAB环境,采用MAT-LAB神经网络工具箱中的函数编程求解计算。学习速率和冲量系数是在BP神经网络调试过程中最重要的2个参数。我们经过不断地试取,最后确定BP神经网络模型的学习速率为0.6,冲量系数为0.9,学习误差为0.0001。当学习次数为324次时,网络模型的训练样本和检测样本的拟合度最高,模型收敛并达到所需精度,能较好地评价未知水质样本。训练结果如表2所示,训练、检测曲线如图3所示。由此,可利用该模型对卧虎山水库的水质进行评价。
卧虎山水库的水质评价
利用已建立好的BP神经网络模型,将2010年8月到2011年12月在卧虎山水库监测断面取得的22个样品中,每个样品的6项水质指标输入到模型中,按照其输出值与评价级别的贴近度来判断确定卧虎山水库的水质归属等级。BP神经网络的输出结果见表3,因Ⅴ类的输出结果均为0,故未列出。
评价结果分析
从表3可以看出,卧虎山水库作为生活饮用水水源,在2010年8月至2011年6月,水库水质整体属于Ⅱ类水,Ⅲ类水出现的次数较少,且持续的时间较短。这主要是由于该时间段内处于丰水期,降雨量较多,入库流量大,水体的稀释与自净能力强,水质较好;2011年6月至2011年12月,水库水质为Ⅲ类水,水体受到轻度的污染,水质较差。主要原因是该时间段内7月到9月处于平水期,10月到12月处于枯水期,降雨较少,从源流区汇入到水库的地表径流较少,水库水得不到及时的补充,致使水体的自净能力减弱。
另外,近年来随着水库周边与源流区内生态旅游业的发展、人口的增多以及生活污水排放的增多,生活垃圾得不到及时回收,导致源流区水体中的污染物逐年累积。从水库水质评价结果看,水库3个时段水质都存在大于0.5的数值,表明水库水质存在潜在的风险源。
同时,从评价结果的区域极大值和极小值来看,枯水期时的值最大,都接近于1,水库水质为Ⅲ类。从整体来看,卧虎山水库水质的年际变化与同期洪湖水位的动态变化存在着较好的相关性。丰水期的高水位,提高了水体的稀释与自净能力,水库水质状态最好。
2010年和2011年,先后有济南市环保局、市公用事业局、水利局和市供排水监测中心这4家水质检测单位,对卧虎山水库水样进行化验检测,化验结果显示2010和2011年卧虎山水库水质稳定为Ⅱ—Ⅲ类水之间,与我们利用BP神经网络评价的水库水质结果比对可知,BP神经网络对卧虎山水库水质的评价准确,符合客观实际。
结语
神经网络论文篇4
[关键词]软件项目风险管理神经网络粗集
本篇论文的中心是基于粗集的人工神经网络(ANN)技术的高风险识别,这样在制定开发计划中,最大的减少风险发生的概率,形成对高风险的管理。
一、模型结构的建立
本文基于粗集的BP神经网络的风险分析模型,对项目的风险进行评估,为项目进行中的风险管理提供决策支持。在这个模型中主要是粗糙集预处理神经网络系统,即用RS理论对ANN输入端的样本约简,寻找属性间关系,约简掉与决策无关的属性。简化输入信息的表达空间维数,简化ANN结构。本论文在此理论基础上,建立一种风险评估的模型结构。这个模型由三部分组成即:风险辨识单元库、神经网络单元、风险预警单元。
1.风险辨识单元库。由三个部分功能组成:历史数据的输入,属性约简和初始化数据.这里用户需提供历史的项目风险系数。所谓项目风险系数,是在项目评价中根据各种客观定量指标加权推算出的一种评价项目风险程度的客观指标。计算的方法:根据项目完成时间、项目费用和效益投入比三个客观指标,结合项目对各种资源的要求,确定三个指标的权值。项目风险系数可以表述成:r=f(w1,w2,w3,T,T/T0,S/S0,U/U0),R<1;式中:r为风险系数;T、T0分别为实际时间和计划时间;S、S0分别为实际费用和计划费用;U、U0分别为实际效能和预计效能;w1、w2、w3分别是时间、费用和效能的加权系数,而且应满足w1+w2+w3=1的条件。
2.神经网络单元。完成风险辨识单元的输入后,神经网络单元需要先载入经初始化的核心风险因素的历史数据,进行网络中权值的训练,可以得到输入层与隐含层、隐含层与输出层之间的权值和阀值。
(1)选取核心特征数据作为输入,模式对xp=[xp1,xp2,.,xpn]T,dp(网络期望输出)提供给网络。用输入模式xp,连接权系数wij及阈值hj计算各隐含单元的输出。
m
Ypj=1/{1+exp[-(∑wijxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,
i=1
(2)用隐含层输出ypj,连接权系数wij及阈值h计算输出单元的输出
m
Yp=1/{1+exp[-(∑wjxpi-hj)]},i=1,2,.,m;j=1,2,Λ,n,
i=1
Yp=[y1,y2,……,yn]T
(3)比较已知输出与计算输出,计算下一次的隐含各层和输出层之间新的连接权值及输出神经元阈值。
wj(k+1)=wj(k)+η(k)σpσpj+α[wj(k)-wj(k-1)]
h(k+1)=h(k)+η(k)σp+α[h(k)-h(k-1)]
η(k)=η0(1-t/(T+M))
η0是初始步长;t是学习次数;T是总的迭代次数;M是一个正数,α∈(0,1)是动量系数。σp是一个与偏差有关的值,对输出结点来说;σp=yp(1-yp)(dp-yp);对隐结点来说,因其输出无法比较,所以经过反向推算;σpj=ypj(1-ypj)(ypwj)
(4)用σpj、xpj、wij和h计算下一次的输入层和隐含层之间新的连接权值及隐含神经元阈值。wij(k+1)=wij(k)+η(t)σpjxpi+α[wij(k)-wij(k-1)]
3.风险预警单元
根据风险评价系数的取值,可以将项目的风险状况分为若干个区间。本文提出的划分方法是按照5个区间来划分的:
r<0.2项目的风险很低,损失发生的概率或者额度很小;
0.2≤r<0.4项目的风险较低,但仍存在一定风险;
0.4≤r<0.6项目的风险处于中等水平,有出现重大损失的可能;
0.6≤r<0.8项目的风险较大,必须加强风险管理,采取避险措施;
0.8≤r<1项目的风险极大,重大损失出现的概率很高,建议重新考虑对于项目的投资决策。
总之,有许多因素影响着项目风险的各个对象,我们使用了用户评级的方式,从风险评估单元中获得评价系数五个等级。给出各风险指标的评价系数,衡量相关风险的大小。系数越低,项目风险越低;反之,系数越高,项目风险越高。
二、实证:以软件开发风险因素为主要依据
这里我们从影响项目风险诸多因素中,经项目风险系数计算,作出决策表,利用粗集约简,抽取出最核心的特征属性(中间大量复杂的计算过程省略)。总共抽取出六个主要的指标(PersonnelManagement/Training,Schedule,ProductControl,Safety,ProjectOrganization,Communication)确定了6个输入神经元,根据需求网络隐含层神经元选为13个,一个取值在0到1的输出三层神经元的BP网络结构。将前十个季度的指标数据作为训练样本数据,对这些训练样本进行数值化和归一化处理,给定学习率η=0.0001,动量因子α=0.01,非线性函数参数β=1.05,误差闭值ε=0.01,经过多次迭代学习后训练次数N=1800网络趋于收敛,以确定神经网络的权值。最后将后二个季度的指标数据作为测试数据,输入到训练好的神经网络中,利用神经网络系统进行识别和分类,以判断软件是否会发生危机。实验结果表明,使用神经网络方法进行风险预警工作是有效的,运用神经网络方法对后二个季度的指标数据进行处理和计算,最后神经网络的实际输出值为r=0.57和r=0.77,该软件开发风险处于中等和较大状态,与用专家效绩评价方法评价出的结果基本吻合。
参考文献:
[1]王国胤“Rough:集理论与知识获取”[M].西安交通大学出版社,2001
神经网络论文篇5
论文关键词:咸潮,东江,神经网络
东江为珠江三大干流之一,发源于江西省寻乌县,由东向西流经龙川、惠州等地,于东莞桥头镇进入东莞市,流经约20公里至石龙分为南、北二大干流进入河网区,经东莞虎门出海。整个东江下游近入河口处,受径流和潮汐共同影响,海水随着海洋潮汐涨潮流沿着东江河口的主要潮汐通道向上推进,成为感潮河段。东江下游分布了东莞市主力水厂,咸水上溯将影响当地的供水水质。当水体含氯化物浓度超过250mg/L时数学建模论文,就不能满足供水水质标准,影响城镇生活供水。自2004年开始,每年的11月至次年2月易遭受咸潮的侵袭。2004年底东江径流量比多年同期减少约五成,咸潮持续了近六个月,东莞部分水厂因为氯化物超标停止取水,对当地居民生活和工农业用水造成极大的影响。
咸潮发生的机制十分复杂,受径流、潮汐、河口等多个因素共同影响,且各个因素之间有着复杂的联系,同时所需的观测资料不完整,因此难以用数学模型准确地描述咸潮的发生规律,而采用数理统计方法只能确定点”到点”的关系,不能描述咸潮空间变化的连续过程,具有一定的局限性。真正意义上的咸潮预报模型方面的研究与应用不多见,以基于偏最小二乘回归与支持向量耦合建立的咸潮预报需要有较高的编程程序【1】,在实际应用中具有一定难度。人工神经网络是近年来发展起来的一种受到人脑和神经系统启发而创建的计算方法,根据以往的数据找到一种比较精确的方法使得预测结果与实际情况相符合,预测的结果具有很高的信任度【2】论文下载。因此,本文以东江下游2009年10月~12月的实测统计资料为基础,建立通过人工神经网络的耦合潮位、上游径流量、咸度等因子建立咸潮预测模型,能为合理分配现有水资源、水厂抗咸提供可靠的依据。
1BP神经网络原理
统计模型中,常采用回归分析方法,对事先拟定的因子进行筛选和系数求解,但当拟定的因子样本数较少且因子之间存在严重的相关性时,会导致分析失效[2]。人工神经网络能够通过大量简单的神经元广泛互连形成的复杂的非线性系统。它不需要任何先验公示,就能从环境变量和待预测水质指标的历史数据之间中自动地归纳规则数学建模论文,获得这些数据的内在规律,具有很强的非线性映射能力,特别适合于因果关系的非确定性推理、判断、识别和分类等问题。其中的BP网络算法使用反向传播算法对网络的权值和偏差进行反复的调整训练,使输出的向量与期望向量尽可能地接近,当网络输出层的误差平方和小于指定的误差时训练完成,保存网络的权值和偏差,是目前运用最广泛、最为成功的一种算法【3】。
BP算法训练”的过程可以分为向前传输和向后传输两个阶段:
1、向前传输阶段
(1)从样本集中取一个样本,,将输入网络。
(2)运算过程中,对数据的取值采集的各数据单位不一致,可对数据采用归一化方法处理。
(3)计算出误差测度和实际输出
(4)对权重值各做一次调整,重复这个循环,直到。
2、向后传播阶段――误差传播阶段
(1)计算实际输出O与理想输出地差
(2)用输出层的误差调整输出层权矩阵
(3)
(4)用此误差估计输出层的直接前到层的误差,再输出层前导层误差估计更前一层的误差。如此获得所有其他各层的误差估计。
(5)并用这些估计实现对矩阵的修改。形成讲输出端表现出的误差沿着与输出信号相反的方向逐级向输出端传递的过程。
网络关
于整个样本集的误差测度:
2东江下游河道咸潮预测模型的建立
根据多年的历史观测资料,东江下游咸度一方面受上游径流量大小的影响(上游来水量越小,咸度值偏高的可能性越大,反之亦然),另一方面还与涨落潮的潮位紧密相关[4-5]。因此,本文选取博罗水文站记录的上游径流量、东江河口潮位、东江下游大王洲桥的咸度作为本模型的自变量和因变量(见图1)。根据2009年10月~12月的实测资料,首先选用2009年10月共60日的数据,对模型进行训练和模拟,建立东江下游月时段水量预测模型。
在应用BP网络运算过程中,输入向量有2个元素数学建模论文,输出向量有1个元素,所以网络的输入层有5个结点,输出结点1个,采用3层BP网络结构,即网络只有1个隐含层,当隐含层节点为4个时,所建模型具有相对较小的模拟误差,因而,隐含层节点设置为4个。网络的训练目标为0.001,最大训练次数为20000次。为了防止网络发生过度拟合,训练方法采用泛化能力较强的贝叶斯正则化方法论文下载。整个过程通过大量的试验计算获得,这无形增加了研究工作量和编程计算工作量,Matlab软件提供了一个现成的神经网络工具箱,为解决这个矛盾提供了便利条件。
图1东江下游地理位置图
3讨论
为检验模型的预测效果,运用前面已训练过的用2009年12月共18日的咸潮情况进行预测,预测值和实测值见表2,结果显示数学建模论文,通过bp人工神经网络模型,以径流及潮差变化预测咸潮的方法是可行的,对咸潮的预测基本符合实际情况。
二十世纪九十年代,东江100m3/s的流量可以将咸潮压制在东江万江――中堂入海口处。2004年东江剑潭枢纽工程建设竣工后,上游径流流速减慢,对东江河道输砂量的拦截作用增大,下游河道的水位呈下降趋势并降到海平面以下,水力坡降的压咸作用消失【6】,海水入侵由原来的主要受流量影响转变为受潮汐和流量共同影响。从实测数据来看,由于潮差的半月变化直接影响到潮流的强弱,大潮(为农历十五至十八)时,咸潮强度大,上溯距离长,上游径流量要增加。整个东江下游作为感潮河段,一般情况下,上游径流量只要维持在270m3/s就能将咸潮线控制在万江至中堂一线以下。但是,在初一、十五大潮时段,如果上游压咸的需水量无法维持到360m3/s,咸潮有可能越过第二水厂,上溯到石龙段。2009年12月1-9日,大潮前后,潮位超过了1.00m,上游径流量最大仅为348m3/s数学建模论文,东莞市第二水厂的取水口氯化物浓度出现峰值,曾一度停产,影响正常生产;2009年12月16日-20日,小潮前后,由于上游径流量大幅度增加至370m3/s,咸潮无法达到第二水厂,保障了生产水厂的正常取水。
表12009年12月东江上游流量、河口潮位的实测值
日期
1日
2日
3日
4日
5日
6日
7日
8日
9日
东江河口最大潮位m
1.08
1.21
1.28
1.27
1.28
1.19
1.02
0.76
0.45
博罗水文站流量m3/s
279
271
302
317
312
348
340
299
258
日期
16日
17日
18日
19日
20日
21日
22日
23日
24日
东江河口最大潮位m
1.06
1.07
1.06
1.04
0.97
0.86
0.71
0.50
0.25
博罗水文站流量m3/s
370
370
330
342
338
284
285
神经网络论文篇6
关键词:模糊神经网络;股票预测
一、引言
中国股市经过十余年的发展,应该说已经取得十分巨大的成就,但是与国外成熟股市相比仍然是一个新兴市场。事实上,探索和研究股票价格波动的复杂性和规律性,是许多经济工作者,尤其是证券研究者一直追求的目标。
股票交易数据预测是一种时间序列预测方法。时间序列预测法是依据预测对象过去的统计数据,找到其随时间变化的规律,建立时序模型,以判断未来数值的预测方法。其基本思想是:过去的变化规律会持续到未来,即未来是过去的延伸。一般一维时间序列预测方法有移动平均与分解方法、指数平滑方法、状态空间模型等。这些预测方法经过长期的发展,在定量预测模型和定性预测模型等方面都有长足的进步。但是,当系统具有较强的非线性时,这些方法的适应性却是有限的,在实际的预测环境中常常失去效用,因此用这些传统的预测方法解决这类问题十分困难。
二、神经网络和模糊逻辑结合的可能性
神经网络的兴趣在于人脑的微观结构。并通过有自学习、自组识、自适应功能的神经网络上的非线性并行分散动力学,对无法语言化的模式信息进行处理。模糊逻辑根据人为定义的隶属函数和一系列并串行的规则,用逻辑推理去处理各种模糊性的信息,是通过模仿人的思维方式来表示和分析不确定、不精确信息的方法和工具。尽管“模糊”这个词在这里容易使人产生误解,实际上在模糊逻辑控制中的每一个特定的输入都对应着一个实际的输出。所以模糊逻辑本身并不模糊,模糊逻辑并不是“模糊的”逻辑,而是用来对“模糊”进行处理以达到消除模糊的逻辑,它是一种精确解决不精确、不完全信息的方法,其最大特点就是用它可以比较自然地处理人的概念,是一种更人性化的方法。在处理数据时,模糊逻辑更能容忍噪音干扰和元器件的变化,使系统适应性更好模。糊逻辑还对使产品开发周期缩短而编程更容易。通过模糊化样本,提高了样本集中各样本的质量,进而改进能量函数。用神经网络去预测股票,在对信息的推理上还存在相当大的困难;而在信息的获取方面,模糊技术也显得十分软弱。
因此本文根据模糊逻辑和神经网络的各自长处把它们结合起来,利用这种方法对股票预测进行研究。模糊系统提供了一种推论式语句用来逼近人的推理能力和并且应用到基于知识的系统中。模糊逻辑理论是用一种数学工具来获取人们认知过程。然而,模糊逻辑中有个共同的瓶颈是它们都依赖于由领域专家给出的规则,而且,不存在正式的框架来选择模糊系统的各种参数,因此,调整参数的方法是模糊系统的一个重要研究课题。另一方面,神经网络所具有一些重要的有点,比如学习能力、自适应能力、容错能力等,所以神经网络能够处理复杂的、非线性的以及不确定性问题。正是因为如此,可以相信它们具有构建与人们人之有关的各种行为的潜能。但是神经网络的主要问题是它没有明确的物理意义,使用者不知道这些网络是如何运转的。这就是为何神经网络总是被称为“黑箱”的原因。对以一个训练好的神经网络,其连接权值不能清楚地说明网络是如何处理数据的,其含义是什么。特别是,现在的神经网络理论还没有提供一种方法来预测训练好了的网络的输出。因此,在实际应用中造成了一些不确定性。
把模糊系统和神经网络的结合成为模糊神经网络,该网络致力于获得两种系统的优点而克服各自的缺点。正如前文提到的,神经网络的优点在于,第一个是能够生成不需要明确表现知识的规则;第二个是其强大的自学能力。模糊系统的优点在于,第一个是能用模糊性的语言表达知识;第二个是能用简单的预算来实现知识的模糊推理。两者的结合可以解决模糊系统中的只是抽取问题以及专家知识也能很容易融合到神经网络中,避免了初值选择的任意性。
三、模糊神经网络的模型设计
1、模型的结构
模糊神经网络与一般的神经网络相类似,通常分为前向型模糊神经网络和反馈型模糊神经网络两类。本文采用的就是前向型模糊神经网络。该网络是可以实现模糊映射关系的模糊神经网络。一个前向型模糊神经网络可分为五层组成,分别为输入层、模糊化层、模糊推理层、去模糊化层和输出层。图1-1为含有两个输入层节点、一个输出节点的一个基本前向模糊神经网络结构。
输入层指的是接受外部输入信号的一层,并将输入值传送给模糊化层的模糊单元;模糊化层的作用是按模糊规则将输入值转换为一定的模糊度,是对模糊信息进行预处理的网层。模糊推理层是前向型模糊神经网络的核心,其网络参数是由具体问题所确定的;去模糊化层接受经中间层处理的数据,并按照模糊度函数将数据进行非模糊化处理;最后输出层给出确定性求解结果。
本文采用的是TS模糊神经网络。该神经网络分为输入层、模糊化层、模糊规则计算层和输出层(包括去模糊化)。输入层与输入向量xi连接,节点数与输入向量的维数相同。模糊化层采用隶属度函数(公式1-1)对输入值进行模糊化得到模糊隶属度值μ。模糊规则计算层采用模糊连乘(公式1-2)计算得到φ。输出层采用(公式1-3)计算模糊神经网络的输出。下面给出各公式:
1-1
式中,分别为隶属度函数的中心和宽度;k为输入参数;n为模糊子集数。
1-2
1-3
式中为模糊系统参数。
2、模糊神经网络的学习算法
(1)误差计算
式中,yd为网络期望输出;yc是网络实际输出,e为期望输出和实际输出的误差。
(2)系数修正
式中,为神经网络系数;α为网络学习率;xj为网络输入参数;φi为输入参数隶属度连乘积。
(3)参数修正
式中,、分别为隶属度函数的中心和宽度。
3、预测模型的结构设计和参数的设定
网络结构的选择需要考虑以下因素:软硬件实现的难易程度、训练速度和网络的推广能力等,其中网络的推广能力是最主要的,网络结构设计至今还没有确定的方法可循。14世纪的法国修道士提出过一个最简单原则:“与己知事实满意符合(一致)的理论中最简单者就是最好的理论”,后人称此原则为“奥克姆剃刀”。由此产生了一个公认的指导原则:“在没有其他经验知识时,能与给定样本满意符合(一致)的最简单(规模最小的网络就是最好的选择”。这相当于在样本点的误差在允许范围条件下用参数最少的模型去逼近一个未知的非线性映射。
从总体上来说,网络结构设计并没有固定可循的步骤,有许多参数要靠经验选择,并通过试验加以比较。规模小的网络的泛化能力强,同时也易于理解和抽取规则、知识,便于软硬件实现。通常情况下,由于训练样本有限,所以把泛化能力作为主要要求,强调选择能达到要求的最小网络。理论证明,一个三层网络可以任意逼近一个非线性连续函数。
基于T-S模糊神经网络的算法流程如图1-2所示。其中模糊神经网络构建根据训练样本维数确定模糊神经网络的输入和输出的节点以及模糊隶属度函数个数。由于输入数据为开盘价,最高价,最低价,收盘价这四组数据,所以为n=4维的,输出的是次日的开盘价格即输出数据为1维的。在模糊化层中,该层有nm个节点,利用K-means法对样本进行聚类分析得到模糊规则数以确定m。在聚类分析得出m=2所以得到节点数为8,该模糊神经网络的结构为4-8-1。在根据T-S的模型,所以选择5组系数ρi。
虽然权值随迭代而更新,一般都是收敛的,但是如果初始值设置的太大的话会影响该网络,会使网络饱和的很快。初始的权值对收敛速度也会造成影响。实验表明,初始权值只要不是过大,对网络整体的性能的影响并不大,一般可选在(-0.5,0.5),本文取权值为0。由于本文的隶属度函数利用的是高斯函数,所以高斯函数中的中心和宽度随机得到。
在学习率和网络参数的选择上,若选择的太小,会使网络参数修改量过小,收敛的速度缓慢;若选择的太大,虽然可以加快了学习的速度,但是有可能导致在稳定点附近进行持续的振荡,难以收敛,目前在理论上还没有明确的确定学习率的方法,对于具体问题需要进行试验,通过实验比较出适合的学习率,本文在通过实验选取学习率为0.025,网络参数选取0.001,最大迭代次数选取为100。
四、实证分析
1、预测的效果
选取绿景地产(000502)2010年1月20日连续120个交易日的数据作为训练和预测样本。其中使用前100个交易日的指标作为训练样本训练网络,用后20个数据进行样本预测。
如图1-3为训练网络的效果图,该结果是用归一化后的数据。
表1-1列出真实值和预测值以及预测的相对误差((真实值-预测值)/真实值):
2、网络性能的评价
对神经网络常用的预测性能的评价指标常用的有RRMS,MPE,mpe,PC。选取绿景地产(000502)2010年1月20日连续120个交易日的数据作为训练和预测样本。其中使用前100个交易日的指标作为训练样本训练网络,用后20个数据进行样本预测。本系统的各项性能指标如下:
相对均方根误差:RRMS=0.63%最大误差:MPE=0.19元正确趋势率:PCD=65%
从以上指标看出用该模糊神经网络进行预测是有效的,预测系统式成功的。
五、总结
股票市场是反映经济的“晴雨表”,其作用不但被政府重视,而且受投资大众的普遍关注,股票市场中的收益伴随着风险,以最小风险获得最大收益是每个投资者的目标,所以研究股票市场内在规律及其预测具有重大的意义和应用的价值。股票交易数据预测是时间序列预测。在股票市场这个极其复杂的系统中,它所具有的非线性和高噪声等因素决定了股票预测的过程的复杂与困难,传统预测方法很难应用于此,难以建立有效的数学模型。
神经网络是一种很好的时间序列预测方法。神经网络具有逼近任意复杂连续函数关系的能力,而这些能力正是传统方法所不具有的。本文把模糊逻辑和神经网络相结合起来,首先介绍了模糊系统和神经网络的基本知识以及二者结合的可能性。然后建立模糊神经网络模型并用于股票价格的预测,运用相关分析在剔除了与预测指标相关性较小的指标,简化了模糊神经网络的结构,并在实际的试验中确定了相关网络系数的初始值,简要的介绍了建模的工具,并用设立模糊等级对模糊神经网络的有效性进行了评价,在通过实证分析证实了网络系统基本上达到了预想的要求。
参考文献:
[1]胡守仁,神经网络应用技术[M],国防科技大学出版社,1993
[2]赵振宇,模糊理论和神经网络的基础与应用[M],清华大学出版社,1996
[3]刘增良,模糊逻辑与神经网络[M],北京航空航天大学出版社,1996
[4]吴华星,基于神经网络的股票价格预测,中国科学院计算技术研究所,1998
[5]姚培福,人工神经网络在股票预测中的应用与研究,昆明理工大学硕士学位论文,2007