RBF人工神经网络

2024-08-07

RBF人工神经网络（精选8篇）

RBF人工神经网络第1篇

水环境承载力影响因素众多,承载力与影响因素之间属于非线性关系,利用传统的线性方法求解难度较大。在求解非线性问题方面人工神经网络具有强大的非线性数据处理能力,具有算法成熟、状态稳定的优点,适用于模式识别和数据分类[1,2]。下面以南方某区域为研究对象,运用RBF人工神经网络模型对区域未来发展各种方案的综合污染指数进行了分析预测,进而掌握其相应的水环境承载力状况。

1RBF模型及原理

1.1RBF(径向基函数)模型简介

径向基函数人工神经网络模型(RBF-ANN)是近年应用较多的一种前馈神经网络模型络[3]。1985年,Powell提出了多变量插值的径向基函数 (Radical Basis Function,RBF)方法。在此基础上,1988年,Moody和Darken提出了一种径向基函数神经网络,即RBF-ANN。与BP模型一样,也能以任意精度逼近任一连续函数。RBF模型通常是一种3层前向式网络, 见图1。一般它由1个输入层、1个隐含层和1个输出层组成, 各层有多个单元(称为神经元),各相邻两层单元之间单方向连接。RBF的神经元结构见图2。

由图2可知,隐含层神经元是将该层权值向量w与输入向量u之间的矢量距离与偏差bi相乘后作为该神经元激活函数的输入,即:

通常取径向基函数为高斯函数,则神经元的输出为:

由式(2)可以看出,随着w和u之间距离的减少,径向基函数输出值增加,且在其输入为0时,即w和u之间的距离为0时,输出为最大值1。因此,可以将一个径向基神经元作为一个当其输入向量与其权值向量相同时输出为1的探测器。

1.2RBF模型的学习过程

RBF模型层神经元权值训练的实质上是通过不断地调整wjHi,使wjHi不断地趋向于ui。最终使得隐含层中的每个神经元工作在wjHi=ui处时,RBF神经元输出为1。神经网络训练过程结束后,将任一输入向量送给该神经网络时,RBF层中的每个神经元都将根据输入向量接近每个神经元的权值向量的程度来输出结果。这个过程运行的结果是与输入向量相离很远的权值向量,对应的RBF神经元的输出接近0,这些很小的输出对后面的线性层的影响可以忽略。而与输入向量非常接近的权值向量,其对应的RBF神经元输出接近1的值。若RBF神经网络的输出层神经元采用线性作用函数,那么RBF神经元的输出经过加权求和后作为神经网络的输出,可以说神经网络的输出就是RBF层神经元输出的加权求和。理论证明,只要RBF层有足够多的神经元,一个RBF网络可以任意期望的精度逼近任何函数。

下面给出隐含层至输出层神经元之间权系数w0的具体学习算法。设隐含层共有M个RBF神经元,当隐含层神经元的权值wH确定后,由图1可知,神经网络的输出为:

由于RBF模型的学习属于有监督学习,那么神经网络权系数的学习问题就可以转化成多元线性函数求极值的问题。因此,可利用各种线性优化算法求得各神经元的连接权系数, 如梯度下降法、递推最小二乘法等。

2模型应用

人工神经网络模型首先利用已知数据系列对模型进行训练、验证,优选出模型参数,然后再利用验证好的模型对各种可能方案进行预测。本文利用Matlab软件中的人工神经网络工具箱进行分析计算。

2.1模型输入

南方某城区地形东南低西北高,主城区规划用地面积为23.5km2,建成区约15.0km2,2008年市区总人口为38.27万人。城区内河发达,河流众多,现有河流17条,总河长为70 km,河流总面积为0.38km2,水域容积为62万m3。多年平均降水量为1 400mm,其中梅雨和台风雨是形成洪水的主要因素。现状河流水质多为劣 Ⅴ 类,主要污染源为生活废水,河流水环境质量已严重影响居民生活和市容环境。

水环境系统是个复合系统,是由水资源、社会经济、生态环境子系统组成的[4]。从这3个方面考虑,按照政策相关性强、信息集成度高、可量化、实用性强等原则,选取了11项模型的输入项(见表1)。

2.2模型输出及水环境承载力评估分级

广义水环境承载力是在一定的社会、经济与技术条件下, 某一区域(流域)的水系统功能正常发挥和保持良好状态时,水环境对社会经济发展和人民生活需求的协调度[5,6]。

水环境承载力最直接的体现是水体水质。综合污染指数不仅可以表征多项水质参数、多个监测断面的综合污染程度, 而且可以直接反映整个区域的污染程度,一般水环境污染程度轻时,那么该地区的水环境还可以容纳一些污染物,地区污染严重时,若是再进一步污染,整个地区污染将更加严重,所以综合污染指数可以在一定程度上反映一个地区的水环境承载力, 因此采用内河综合污染指数作为水环境承载力的评估参数。故采用综合污染指数作为RBF模型的输出项,同时,为了更直观地进行水环境承载力的评价与表达[7],借鉴综合污染指数的污染程度分级方法,对水环境承载力进行分级,结果见表2。

综合污染指数为(-∞,0.4]时,认为水资源承载力处于Ⅰ 级,表明区域水环境承载力状况为较优状态,人类经济活动与水环境处于良好的协调发展状态,可以适当加大经济发展力度,同时应注意水环境保护;

综合污染指数为(0.4,1.0]和(1.0,1.5]时,水环境承载力处于Ⅱ级和Ⅲ级,表明区域水环境承载力状况处于良好状态和及格状态之间,人类经济活动与水环境处于较协调发展状态, 应加强水环境保护力度,如果在发展经济的同时不注意水环境保护,将破坏人类活动与水环境的协调关系;

综合污染指数为(1.5,2.5]和(2.5,+ ∞)时,水环境承载力处于Ⅳ级和Ⅴ级,表明区域水环境承载状况处于及格状态与最差状态之间,人类经济活动与水环境处于非协调发展状态, 必须加大环保投入和水环境治理工作力度。

2.3模型训练与验证

一般来说,样本数据系列越长,模型验证情况会越好,预测的精度也会更高。因此,本次以旬为统计时段,将2001-2010年有水质监测的各旬(为单月上旬)组成相应样本数据系列,用于模型训练及验证,共59组数据,其中54组用于模型的训练及参数优选,5组用于模型验证。

模型参数优选采用坐标轮换法。先从确定隐含层神经元个数开始,然后逐一确定其他模型参数。确定某一参数时,其他参数不变,采用参数轮换法进行优选。经过优选确定RBF模型较佳的参数取值为:最大神经元个数为50,学习目标为0.000 1,扩展速度为1。

将确定的参数和54组数据用于RBF模型训练,根据RBF模型训练结果的误差判定训练是否结束,训练结果误差满足精度要求,表明模型通过训练掌握了样本中的信息。利用5组验证数据对模型进行验证,验证结果表明:RBF模型相对误差小于10%,验证精度可以满足模型的应用要求,模型可以应用于方案预测。

2.4方案预测

根据研究区环保发展状况,拟定了3组方案:

(1)现状环保水平方案组。GDP正常增长,单位用水量和环保水平维持现状,调水量和水资源总量为平均状态。

(2)中环保水平方案组。GDP正常增长,单位用水量和环保治理为中环保水平,调水量随工程完善有所增加,水资源总量为平均状态。

(3)高环保水平方案组。GDP正常增长,单位用水量和环保治理为高环保水平,调水量随工程完善逐渐增加,水资源总量为平均状态。

每组方案又分为3种经济发展水平,即现状(2010年)经济水平、近期(2015年)经济水平以及中远期(2020年)经济水平。

利用已经训练好的RBF模型,将各组方案的指标值输入到模型进行预测,并对各方面的预测结果进行承载力评价,结果见表3。

在同样的环保水平下,经济发展、人口增加会导致总用水量增加,而污水处理水平跟不上,污水排放量逐渐增加,水环境承载力逐渐减弱。影响水环境的主要因素是经济、人口、污水排放量。在同样的经济水平下,随环保水平的提高,水环境承载力越来越强,符合一般规律。

现状环保水平和中环保水平水资源承载力较弱,高环保水平下各方案的水环境承载力大大增强,均为一般以上的状态。加大环境治理力度,可以提高水环境承载力,保证人类经济活动与水环境持续协调发展。

3结语

RBF人工神经网络第2篇

摘要：提出一种基于RBF神经网络的数据挖掘方法，将RBF神经网络应用于数据挖掘的分类和预测中，解决钢构件过程中的性能预测问题。其中用黄金分割法确定基于RBF神经网络的隐层节点数，减少该算法的计算复杂度，最终将其应用于某钢铁企业质量控制系统。构建对钢构件质量检测的数据挖掘及质量追溯平台，该平台是基于RBF神经网络的数据挖掘技术的。实际应用证明，产品的质量合格率可达到96.27%，符合国家相关的标准和技术指标。

关键词：数据挖掘；径向基函数神经网络；黄金分割法；质量追溯

中图分类号：TP399 文献标识码：A

Abstract：To solve the performance prediction problem in the steel production process， this paper presentsed an approach which is based on RBF neural network data mining method and uses RBF neural network in classification and prediction of data mining. The hidden layer nodes of the RBF neural network were determined by the golden section method to reduce the computational complexity of the algorithm， which were applied to a steel enterprise quality control system. Finally， a platform of data mining and quality retrospective， which is based on RBF neural network data mining technology，was constructed in product quality testing in steel companies. Practical application shows that the qualified rate of products can reach 96.27%， in line with national standards and technical specifications.

Key words：data mining； radial basis function neural network；golden section method； qualitytraceability

1 引言

在国家“全面提高信息化水平，推进信息化与工业化深度融合”的大环境下，有效的将信息技术、企业先进制造技术与现代管理技术进行结合，使得企业在生产经营过程中产生了海量数据。激增的数据背后隐藏着许多重要的信息，如何从大量的数据中提取并找到有用的信息以指导决策，是迫切需要解决的问题[1，2]。

钢构件的生产、加工、成型及实际应用的过程中涌现出企业决策的不确定性和不可预测性，大量结构化和非结构化数据，加剧了企业决策的风险。如何有效地收集数据、洞察数据，如何将数据转化为知识、将知识付诸于行动，已经日益成为企业经营者难以把控的课题。

由于神经网络对噪声数据的高承受能力和高容错能力使得神经网络在数据挖掘领域的应用得到人们的重视，但是具有结构复杂、可解释性差、训练时间长等缺点。针对这些问题本文介绍了基于RBF神经网络的数据挖掘技术构建的钢构件企业成品质量检测的数据挖掘及质量追溯平台，并且应用黄金分割法确定RBF神经网络的隐层节点数，减少了该算法的计算复杂度，进而简化RBF神经网络算法，使其更能满足大型企业数据挖掘的需求，提高工作效率。

2 数据挖掘技术

数据挖掘（DM： Data Mining.），也称为数据库中的知识发现KDD（Knowledge Discovery in Database），是源于大型零售商在面对决策支撑问题提出的，是从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程[3]。它汇聚了数据库、人工智能、机器学习、统计学、可视化技术、并行计算机等不同学科和领域的知识；借助了多年来数理统计技术及人工智能等领域研究成果构建起自己的理论体系；利用了数据库技术对数据进行前端处理，应用机器学习方法从处理后的数据中提取有用的知识，并对数据背后隐藏的特征和趋势进行分析，最终给出关于数据的总体特征和发展趋势；运用了可视化技术将人的观察力和智能融入系统，用直观图形将信息模式、数据的关联或趋势呈现给决策者，使用户能交互式地分析数据。

数据挖掘大体分为三个步骤：目标数据收集采样、数据处理再加工和数据输出与结果分析。数据挖掘就是寻找隐藏在数据中的如趋势、模式及相关性的信息。数据挖掘属于数据库中的知识发现（KDD）的一部分。它的本质就是学习过去经验的简单过程。图1是知识发现过程的简单流程。

4 钢构件质量检测和追溯系统

现阶段冶金行业的运营特点趋向于严格的冶金产品质量规范，产品要进行全过程的质量跟踪和严格的质量检测，并为客户开具质量保证书。可见，质量管理在钢铁冶金行业中占据着越来越重要的地位。质量检测是实现质量管理的核心环节，只有精确地检测并分析出产品判废原因并进行质量追溯，才能把成品质量控制在最佳水平。为了更精确、更智能的进行质量检测工作，本文将RBF神经网络应用于数据挖掘的分类和预测中，把二者结合起来解决钢构件生产过程中的性能预测问题，以此构建了基于RBF神经网络的钢构件成品质量检测的数据挖掘及质量追溯平台，该平台将某钢铁企业中钢构件生产过程中的数据采集和质量控制系统历史数据库的海量数据作为目标信息源，进行数据清洗和相关性分析，减少数据噪声、删除与任务无相关的数据，建立挖掘数据库。而数据挖掘自动在数据库中寻找预测性信息，迅速直接由数据本身得出结论。

目前的钢构件检测技术基本上是将化学性能、物理性能、尺寸精度和表面质量分开检测，而化学性能和物理性能基本满足单方向相关联的关系，即产品的化学元素含量直接影响到产品的物理性能各项参数。因此，在对钢构件产品的物理性能检测时，可利用成品的化学物理性能相关性，通过RBF神经网络对化学参数的处理后，预测该产品的物理性能，从而简化了物理性能的检测环节，大量节省了人力物力并节约了检测成本。然而，数据挖掘的结果是不确定的，要和专业知识相结合才能对其做出判断，因此要结合质量追溯对结果进行深刻的分析，理解数据，了解其过程，才能对数据挖掘的结果找出合理的解释。因此对钢构件产品化学性能、物理性能、表面质量、尺寸精度的数据挖掘可按照以下流程进行：

依据上图，仅以钢构件的化学成分为例进行说明。对构件钢的化学分析用试样取样法以及成品化学成分允许偏差检测采用GB222—84标准。钢种产品牌号为Q295，A级钢，抽取了200组型钢产品的样本进行该平台的测试，首先从目标信息源即数据采集和质量控制系统历史数据库的海量数据中获型钢的化学成分数据，具体如下表1。

然后采用RBF神经网络进行数据挖掘，将数据集分为两组，一组用来训练RBF神经网络，一组用来测试RBF神经网络。为很好考察网络的泛化能力，要保证测试数据和训练数据无交集。此外，为了防止所有数据的数据冲突问题，将数据仓库与挖掘数据库分开设置。设置二级数据库为数据仓库，里面包含所有从生产线采集的数据；数据挖掘库为三级数据库，它是数据仓库逻辑上的一个子集，二级数据库是三级数据库的数据源，三级数据库从二级数据库挖掘筛选出需求数据。经过RBF神经网络对38个化学参数的处理后，预测该产品的物理性能，最后对化学成分数据、物理性能数据、尺寸精度数据和表面质量参数进行综合判定后的判定结果进行结果分析，判定结果以C#完成的界面人性化显示如图5.具体结果分析如表2。经过此成品质量检测的数据挖掘及质量追溯平台来进行产品质量控制，钢构件产品的合格率可以达到96.27%。

5 结论

本文将RBF神经网络应用于数据挖掘的分类和预测中，把二者结合起来解决钢构件生产过程中的性能预测问题，并结合质量追溯对数据挖掘结果进行详细分析解释。其中，在预测网络的选择上综合考虑钢构件企业产品性能特点，选用结构相对简单的RBF前馈神经网络，同时对钢构件产品进行预测和检测两项工作，将数据挖掘技术深入到企业生产过程中，最终构建了成品质量检测的数据挖掘及质量追溯平台，经过此对产品进行质量控制，使得钢构件产品的质量符合国家相关的标准和技术指标。

参考文献

[1] Caiyan， Liu， and Sun Youfa. Application of data mining in production quality management[J].Proceedings of the 3rd international conference on Intelligent information technology application. IEEE Press， 2009.

[2] 储兵，吴陈，杨习贝. 基于 RBF 神经网络与粗糙集的数据挖掘算法[J]. 计算机技术与发展， ISTIC， 2013. 23（7）：50-58.

[3] 宫晓曼，滕荣华.基于神经网络的数据挖掘在煤矿选煤中的应用[J]. 煤炭技术， 2013. 32（009）：127-128.

[4] 赵婧宏，潘维民.人工神经网络算法在数据挖掘中的应用[J].中国科技论文在线.

[5] 王行甫，覃启贤，程用远，等.一种改进的径向基神经网络预测算法[J].计算机系统应用，2012，（21）8：2-4.

[6] 李劲松.数据挖掘技术在钢企质量成本管理中应用研究[J].科技导报，2009.

[7] SPINOLA C.， et al. "Image processing for surface quality control in stainless steel production lines." Imaging Systems and Techniques （IST）[J].2010 IEEE International Conference on. IEEE， 2010.

[8] 尉永青.数据挖掘技术在入侵检测系统中的应用研究[J].信息技术与信息化，2005：95-96.

[9] 林钢.基于数据挖掘的前向型神经网络在交通流时序预测中的应用[D].南京：东南大学，2004.

[10]周涛，陆惠玲.数据挖掘中聚类算法研究进展[J].计算机工程与应用，2012，（48）12：40-46.

[11]Shen， Wei， et al.Forecasting stock indices using radial basis function neural networks optimized by artificial fish swarm algorithm[J].KnowledgeBased Systems 24.3 （2011）： 378-385.

[12]Cios， Krzysztof J.， Witold Pedrycz， and R. M. Swiniarsk.Data mining methods for knowledge discovery.Neural Networks[J].IEEE Transactions on 9.6 （1998）： 1533-1534.

基于RBF神经网络的客户需求预报第3篇

在经济全球化的激烈竞争中, 客户需求预报在企业决策中发挥着重要的作用, 客户需求预报主要是预报未来一段时间内客户对某产品的需求数量和发展趋势。产品需求信息的提前准确获取, 可以缩短产品的上市时间并提高客户满意度。同时客户需求预报也是解决不确定需求物流配送问题的一个重要方法, 通过客户需求预报可以将不确定需求问题转化为确定需求问题。本文采用RBF神经网络对客户需求进行预报, 以期得到有效结果。该研究有利于了解RBF神经网络在客户需求预报问题中的应用价值。

二、基于RBF神经网络的客户需求预报

RBF神经网络是以径向基函数作为隐含层神经元激活函数的三层前向型神经网络, RBF网络的优越性主要在于具有最佳逼近和全局逼近的性质, 因此可以用于预测、识别、函数逼近和过程建模等问题。RBF神经网络的拓扑结构如图1所示。第一层为输入层, 由信号源节点组成, 输入层节点只传递信号到第二层;第二层为隐含层, 隐含层采用径向基函数作为网络的传递函数, 隐含层节点数视所描述问题而定, 从输入层空间到隐含层空间的变换是非线性的;第三层为输出层, 它对输入模式的作用作出响应, 输出层节点计算由隐含层节点给出的基函数的线性组合。整个RBF网络可以看作是非线性基函数的线性组合。

RBF神经网络输出层第j个节点的输出值计算公式如下所示:

;式中RBF网络的传递函数采用高斯函数, 表示输出层第k个节点的输出值, 表示隐含层第i个节点到输出层第j个节点的连接权值, x表示神经网络的输入向量, 表示隐含层第i个节点的中心, M表示隐含层节点总数, 表示欧氏函数, 表示偏置量, 表示隐含层中心宽度。

基于RBF神经网络的客户需求预报包括训练样本的选取、待测样本的选取与RBF神经网络需求预报等三部分组成。根据客户需求历史信息, 采用此预报方法可以得到相应的预报结果。此预报方法各组成部分的关系如图2所示。

本文选取客户需求数据作为训练样本数据:以某客户需求发生时间t (1) 、t (2) 、…、t (n) 对应的客户需求量d (1) 、d (2) 、…、d (n) 作为训练样本。当RBF神经网络完成训练学习后, 就可以对未来某时刻的客户需求量进行超前预报。

三、计算示例

为了验证此预报方法的有效性, 以国内某公司某产品的销售数据为例, 对此产品的需求量进行了预报。此产品的需求数据如下表所示:

本文选取2003年~2006年的历史需求数据组成训练样本, 采用提出的RBF客户需求预报方法对2007年的产品需求量进行超前预报。2007年客户需求量的超前预报值和误差如表2所示:

由表2可知, 采用基于RBF神经网络的预报方法对客户需求量进行超前一个月至十二个月预报, 其平均误差为3.27%。

四、结束语

本文介绍了RBF神经网络的基本原理, 描述了客户需求信息训练样本和待测样本选取等内容, 提出了基于RBF神经网络的客户需求预报方法。最后以某公司的产品销售数据为例, 采用此预报方法对其产品需求进行了超前一个月至十二个月的预报, 平均预报误差小于4%, 证明了此方法的可行性和有效性。

摘要：阐述了基于RBF神经网络的客户需求预报方法。以某公司的产品销售数据为例, 进行了需求预报仿真实验, 平均预报误差小于4%, 证明了此方法的可行性和有效性。

关键词：客户需求,预报,RBF神经网络

参考文献

[1]朱道立龚国华罗齐:物流和供应链管理[M].上海:复旦大学出版社, 2001

[2]宋华:现代物流与供应链管理案例[M].北京:经济管理出版, 2001

[3]魏海坤:神经网络结构设计的理论与方法[M].北京:国防工业出版社, 2005

[4]田景文高美娟:人工神经网络算法研究及其应用[M].北京:北京理工大学出版社, 2006.7

[5]高玮.新型进化神经网络模型[J].北京航空航天大学学报, 2004, 30 (11) :79-83

[6]高隽:人工神经网络原理及仿真实例[M].北京:机械工业出版社, 2007.2

基于RBF神经网络的攻防博弈模型第4篇

关键词：博弈模型,网络攻防,RBF神经网络

0引言

随着信息化时代的发展, 网络安全问题已经成为当前研究的热点。据统计, 全国每年因遭受网络攻击造成的损失多达70多亿元, 并且黑客攻击的数量都在成倍递增。在网络攻防过程中, 入侵者攻击网络系统所采用的各种攻击策略是在不完全掌握系统类型的情况下依据自身的类型、行为策略和系统的防御策略进行选择, 同样网络系统选择防御策略也是在不完全掌握入侵者类型的情况下进行的, 因此对对方类型的估计问题尤为重要。在这里, 入侵者与系统之间的关系符合博弈关系。Hamilton[1]曾经指出, 我们可以很好地利用博弈理论来预测将来攻击, 并且选择我们以最小的代价采取的防御措施。当前已有一些国内外专家将博弈理论用于入侵检测[2]、入侵容忍[3]等技术。通常系统一开始难以判断入侵者是不是黑客, 所以将博弈的双方称为可疑者和系统。本文侧重于分析网络系统的状态和可疑者的行动策略, 据此系统和可疑者使用RBF神经网络来估计对方的类型。

1可疑者与系统之间的博弈关系

博弈论[4]是研究具有斗争或竞争性质现象的理论和方法, 它是应用数学的一个分支, 主要研究公式化了的激励结构 (游戏或者博弈 (Game) ) 间的相互作用, 是研究具有斗争或竞争性质现象的数学理论和方法, 也是运筹学的一个重要学科。博弈论对人的基本假定是:人是理性的 (rational, 或者说自私的) , 理性的人是指他在具体策略选择时的目的是使自己的利益最大化, 博弈论研究的是理性的人之间如何进行策略选择。在网络系统攻防的过程中, 由于系统和可疑者都不能完全掌握对方的信息, 并且博弈过程有先后次序, 因此该博弈为不完全信息动态博弈。本文使用的是两人随机博弈模型[5]:

(S, A1, A2, Q, R1, R2, β)

其中, S={ε1, …, εN}为状态集;Ak={αundefined, L, αundefined};k=1, 2;Mk=|Ak|为局中人k的策略集。在状态s, 局中人k的策略集是Ak的子集, 即:Aundefined⊆Ak和∪undefinedAundefined=Ak;

Q:S×A1×A2×S→[0, 1]是状态转移函数;

Rk:S×A1×A2×S→R, k=1, 2;Rk是局中人k的收益函数;

0<β≤1:是折扣率, 下一个状态的收益价值是现在状态的收益价值的β倍。当β比较大时, 表示局中人关心较远的未来, β较小则表示只关注眼前状态。

两个博弈方可疑者和系统, 将可疑者看成局中人1, 系统看成局中人2。在时刻t时, 该模型处于状态st∈S中, 可疑者从自己的策略集中选出αundefined∈A1, 系统从自己策略集中选出αundefined∈A2, 然后可疑者得到一个收益rundefined=R1 (st, αundefined, αundefined) , 系统得到一个收益rundefined=R2 (st, αundefined, αundefined) 。在该模型中, 双方的类型也起到重要的作用, 因此在这里引入类型。

定义可疑者的类型θ1∈Θ1, 系统的类型θ2∈Θ2。Θ1和Θ2分别是可疑者和系统的类型空间。其状态下可疑者的收益为:

rundefined=R1 (st, αundefined, αundefined, θ1) (1)

系统的收益为:

rundefined=R2 (st, αundefined, αundefined, θ2) (2)

2精炼贝叶斯纳什均衡

由于系统对可疑者的类型不完全掌握, 因此在这里给出一个初始信念p2 (θ1) ;可疑者也对系统类型不完全掌握, 也存在一个初始信念p1 (θ2) 。在这里系统类型可以分为{可以攻击, 不可以攻击}, 可疑者类型分为{黑客, 普通用户}。不完全信息动态博弈所对应就是精炼贝叶斯纳什均衡。根据式 (1) 和式 (2) 式通过精炼贝叶斯纳什均衡得到:undefined (3)

undefined (4)

其中后验概率p%2 (θ1|α1) 是由p2 (θ1) 根据贝叶斯法则得到的, 表示系统是根据可疑者的行动策略来确定用户的类型。系统的类型信念p1 (θ2) 是通过可疑者收集的系统信息来确定的, 因此, 系统根据可疑者进行的策略α1和可疑者的类型来确定的行动策略都应该符合式 (3) ;可疑者根据系统进行的措施α2和系统的类型来确定的行动策略都必须满足式 (4) 。

本文只对可疑者和系统类型 (θ1, θ2) 的估计问题进行讨论, 关于博弈的具体细节已有很多专家研究过, 而且不同领域的系统对应的博弈过程也存在很多不同的地方[6,7]。

3利用RBF网络估计类型

3.1RBF神经网络

径向基函数 (RBF) 神经网络传统是分为三层:输入层、使用非线性RBF激活函数的隐层和线性的输出层, 如图1所示。输出层就是将隐含节点的输出进行加权求和输出, 它可以使非线性的输入得到线性的输出[8], 它能够很好地逼近非线性函数, 并且在收敛速度和逼近能力方面都优于BP网络[9], 因此, 本文使用RBF神经网络进行函数逼近。

RBF神经网络的隐层第i个神经元的输出为:

undefined

径向基的阈值b1可以调节函数的灵敏度, 在MATLAB神经网络工具箱中, b1和扩展常数C的关系为b1i=0.8326/Ci, 所以采用隐层输出为:

undefined

最后输出层为[10]:

undefined

3.2系统和可疑者类型估计

可疑者和系统对对方的类型估计, 主要是通过对方的行为来进行判断, 根据对方多种不同的行为和状态, 来得到关于对方类型的初始信念。因此, 本文使用RBF网络得出这个非线性函数来估计两个博弈方类型。下面分别对可疑者和系统的类型进行估计。

由于系统的保密性, 所以作为可疑者不可能掌握太多系统的信息, 可疑者使用技术上和社会上的一些信息来判断银行系统是属于自己可以攻击类型的信念。假设某可疑者是从以下几个方面来考虑的:系统漏洞的严重程度、开放端口的危险性、体系结构的安全性、人员和制度管理的严密性、口令简单程度和系统投资程度。通过上述六种属性, 黑客在多次攻击实践过程中, 依据所获得统计数据和黑客的经验得到各个状态值, 各状态值在0～1之间。系统漏洞严重程度、开放端口的危险性、体系结构的安全性、人员制度管理的严密性、口令简单程度和系统投资程度越高, 对应属性的状态值就越大。如表1所示。

根据前面分析可以看出, 判断可疑者类型是通过可疑者的攻击行为策略来判断是黑客的概率。因此对于系统来说, 可以通过所观察到可疑者的行为变化来判断该用户是黑客的概率。下面我们主要是观察可疑者的四种行为:输入错误口令、用户访问方式的威胁、大量异常数据包和扫描端口。系统方面根据大量的统计数据和专家的经验得出下列数据, 这些数据取值在0～1之间, 输入错误口令次数越多、用户访问方式的威胁性越大、异常数据包越多、扫描端口越频繁, 其取值越大。如表2所示。

3.3仿真分析

我们使用MATLAB来仿真RBF网络进行判断系统和可疑者的类型, 系统的类型是根据黑客获取系统关于软硬件和制度规模等方面的信息来获得的, 可疑者的类型是根据可疑者在攻击系统时所采用的行动策略来判断的。表1和表2中的数据, 其中分别前10行是训练样本, 后6行是检验样本。RBF神经网络的输入分别是系统的各状态值和可疑者的行动策略, 输出分别是系统是可以攻击的概率和可疑者是黑客的概率。设定目标误差为10-10, 径向基函数的扩展速度为1, 隐层的神经元个数是在创建过程的逐渐增加的。通过MATLAB的结果可以得出:隐层的神经元个数为9时就可以将误差控制在10-10内。将检验样本的实际输出和期望输出做一个比较, 如图2和图3所示。其中图上的圆圈是期望输出, 可以看出函数逼近较好, 误差较小。

因此, 可以通过可疑者的行为策略和系统的属性, 使用RBF网络逼近出的函数来判断可疑者和系统的类型。在每一次的博弈过程中可疑者和系统都可以依靠收集的数据和经验得到一组状态值, 将其作为网络输入, 从而得到网络输出, 该输出的数据就是所求类型的概率。之后可以将该组状态值作为样本参与RBF神经网络的训练过程, 因此作为系统方可以在不断的博弈过程中收集越来越多的样本, 使分析的结果更加精确;当然黑客也可以通过自己的攻击经历获得更多的样本。

4结束语

不完全信息动态博弈理论已被广泛使用在网络攻防问题中, 本文主要是使用博弈理论来分析网络系统攻防问题, 并使用RBF神经网络解决了网络系统类型和可疑者类型的信念问题。使用RBF神经网络比BP神经网络进行函数逼近效果更好, 可以给博弈双方判定对方类型提供更加快速客观的途径。在后续的工作中, 我们主要是考虑在系统攻防过程中的其他博弈方, 提出多方博弈模型。

参考文献

[1]Samuel N Hamilton, et al.The Role of Game Theory in InformationWarfare[J].The Information Survivability Workshop, 2002.

[2]Anis Alazzawe, Asad Nawaz, Murad Mehmet Bayraktar.Game Theory andIntrusion Detection Systems[J/OL].2006.http://theory.stanford.edu/~iliano/courses/06S-GMU-ISA767/project/papers/alazzawe-mehmet-nawaz.pdf.

[3]Huawang Qin, Yuewei Dai, Zhiquan Wang.A Model of Intrusion Toler-ant System Based on Game Theory[J].Computer and Information Sci-ence, 2009:112 117.

[4]MBA智库百科.博弈论[EB/OL].http://wiki.mbalib.com/wi-ki/%E5%8D%9A%E5%BC%88%E8%AE%BA.

[5]Kong-wei Lye, Jeannette M Wing.Game strategies in network security[J].International Journal of Information Security, 2005 (4) :71 86.

[6]贾春福, 钟安鸣, 张炜, 等.网络安全不完全信息动态博弈模型[J].计算机研究与发展, 2006, 43:530 533.

[7]乔立新, 袁爱玲, 李淑霞, 等.我国商业银行防范网络安全风险的博弈模型[J].系统工程理论与实践, 2006, 9:43 50.

[8]ADRIANG.Bors.Introduction of the Radial Basis Function (RBF) Net-works[J/OL].2001.http://axiom.anu.edu.au/~daa/courses/GSAC6017/rbf.pdf.

[9]海山, 张策, 何风琴.RBF网络和BP网络在逼近能力方面的研究[J].内蒙古科技与经济, 2007, 14:64 65.

基于RBF神经网络的图像测量方法第5篇

基于上述背景, 本文先是通过滤波对不同区域的图像进行处理, 处理之后采用Matlab软件对图像进行边缘和角点的提取。接着选用RBF神经网络的图像测量方法, 对选取的样本进行大量训练得到计算结果, 将其与真实值之间存在的偏差进行估计, 最终通过解析得到隧道的变形情况, 这为隧道变形的监测工作提供了新的思路。

1 图像处理概述

图像测量技术是近年来在测量领域中新兴的一种高性能测量技术。图像测量是把测量对像图像当作检测和传递信息的手段或载体加以利用的精确测量技术, 结合了图像处理、模式识别与计算机算法技术等多种现代科学技术于一体。

1.1 图像的滤波

图像滤波是图像处理中最重要的处理方法。其中, 中值滤波采用了非线性的平滑技术, 能对噪声进行抑制消除, 特别适合隧道施工过程中因扬尘导致所获取图像出现的噪声情况[2]。

实际操作中, 将目标像素以不同的像素点为基础建立一个模板, 在模板排序后的像素值中, 选取排在中间的像素值来替代目标像素的灰度值, 即:

式中, W被定义为一个二维的模板, 常以2×2、3×3此类区域来表示, 函数Med是要获取整个的二维序列里面的中值, g (x, y) 代表图像在经由处理之后的灰度值, f (x, y) 代表了原本的图像灰度值[3]。

1.2 角点的检测

图像测量最重要的工作就是对所获取图像进行特征点的检测和识别, 其中角点检测是最主要也是最基本的工作[4]。所谓角点检测是获得图像特征的一种方法, 广泛应用于运动检测、图像匹配、三维建模和目标识别等领域。角点一般认为是两条边的交点, 广义上在角点的局部邻域一般具有两个不同区域的不同方向的边界。角点检测方法的一个很重要的评价标准是其对多幅图像中相同或相似特征的检测能力, 并且能够应对光照变化、图像旋转等图像变化。

蒲瑞维特 (Prewitt) 算子作为一个成熟的边缘检测方法, 同样可用于角点的检测。假定G[f (x, y) ]作为该算子的梯度, f'x (x, y) 和f'y (x, y) 分别为x和y方向的一阶微分, f (x, y) 表示为一个图像的输入, 按照如下公式进行计算:

2 基于神经网络的图像测量方法

图像测量方法是对所获取到图像中的目标对象, 以及区域的特征等加以相应的量测和分析。在实际的摄影测量中, 为了将具有数字化性质的二维影像的像素同实际空间中的三维坐标相互联系起来, 就需熟悉图像中像点以及实际空间中的物点之间的坐标转换关系, 即相机的成像原理。

2.1 相机的成像原理

假设一点P, 在世界坐标系的坐标为XX=[X, Y, Z], 在相机的参考系中定义P点的坐标为XXC=[XC, YC, ZC], 把该点投影在像面上, 其中XX与XXC是相互关联的, 即:

式中, RC和TC分别代表了旋转矩阵和平移向量。将XXC简记为Xn:

再令r2=x2+y2, 则因径向畸变和切向畸变所影响的坐标Xd为:

式中, 等号右边的第一项是径向畸变, 第二项dx是切向畸变向量, 且有:

最后考虑到相机的内部参数矩阵,

得到P点在图像平面中投影后的像素坐标为x_pixel=[xp, yp], 且有:

2.2 基于RBF神经网络的图像测量

根据2.1所述成像原理可知, 一幅图像的任意一点是该点从世界坐标[X Y Z], 经过上述计算得到的二维投影或像素[xp, yp]。反言之, 图像测量是要通过图像特征点的二维像素[xp, yp]来反推其世界坐标[X Y Z]。考虑三维坐标含有3个未知数, 需要三个方程才有唯一解, 而一幅图像中只能提供两个约束方程, 由此可知至少需要2个角度或两幅不同角度对同一特征点的成像, 才有可能得到对应的三维坐标, 由此获得不同特征点之间的距离等检测量, 完成图像测量的工作。

从2.1可知, 沿着[X Y Z]到[xp, yp]的正向计算过程是非常便捷的, 但一旦逆推该过程, 如考虑N个特征点在两幅不同角度的图像, 一共有4*N个方程联立求解对应的3*N个未知数, 这样的求解工作量是非常庞大, 其求解过程也非常费时。

为了克服以上困难, 本文提出了一种基于径向基函数 (Radical Basis Function, RBF) 神经网络的方法[5], 代替上述的反推方程, 利用RBF网络具有对任意连续函数以任意精度逼近的优点, 来建立一个从特征点的两组成像像素到其世界坐标系的数学模型 (见图1) 。

基于RBF神经网络的图像测量方法主要过程如下:

1) 构造如下的训练样本:

Si: (u左pi, v左pi;u右pi, v右pi) → (Xi, Yi, Zi) .

式中, (up左, vp左) =f左 (X, Y, Z) ; (up右, vp右) =f右 (X, Y, Z) ;

f左和f右分别表示两幅不同角度图像 (分别称左图和右图) 的成像函数。

2) 按照图1所示的RBF网络结构和训练样本构造方法, 在角点识别基础上, 依次构造出多组训练样本, 然后按照标准RBF学习算法进行训练。为了得到具有最佳逼近程度的网络模型, 需根据训练样本反复调整相关的结构参数, 如散布系数等。

3) 训练完毕后, 分别将被测点的左图 (u左p*, v左p*) 和右图 (u右p*, v右p*) 带入RBF网络, 得出在世界坐标系对应值 (X*, Y*, Z*) 。

3 图像测量实验与分析

3.1 实验的前期准备

为了真实地反映隧道监测, 本实验在一条地下隧道布设了6个监测点和一块三维定标参照物。该三维定标参照物由两个平面二维棋盘标定板组成, 呈垂直角度固定在立体盒的相邻两个面上, 由棋盘标定板所形成的控制点错落分布在坐标控制系中, 如图2的左下侧所示。

在实验现场所布设的6个测点, 分别在3个不同的平面上, 以保证测点的多样性, 对应的图像测量更具有实际意义。经过多次精确测量, 基于图2的O-XYZ坐标系的布置点的坐标如表1所示。

3.2 图像滤波与角点识别

设置两个不同角度进行上述隧道环境的成像拍摄, 获取了多幅5 472×3 080像素的高清晰度图像。在施工环境下的隧道, 应主要考虑粉尘颗粒对图像成像的噪声干扰, 为此首先对采集图像进行中值滤波进行消噪。然后采用Prewitt角点提取算法, 得到如图3所示的多组控制点的角点像素坐标和6个被测点的像素坐标。

经过筛选后, 保留三维定标参照物中间部分的81角点 (总计162个) 作为控制点。根据识别结果, 分别获取各个控制点的左图坐标 (u左p*, v左p*) 和右图坐标 (u右p*, v右p*) , 再结合对应的世界坐标系的坐标 (X*, Y*, Z*) , 由此构成RBF图像测量模型的训练样本。在Matlab 7.1环境下完成网络的训练, 然后将6个被测点带入训练好的RBF网络模型, 即可便捷计算出所对应世界坐标系值, 见表2。

测量结果表明获取到的点坐标与实际量测得到三维坐标之间存在着差异, 这就可以通过求取它们两者之间的相对误差依次有4.83%、4.67%、4.82%、4.85%、5.06%、5.24%, 通过计算和解析得知该结果处于近景摄影量测所允许的误差范围之内, 从而证实了摄影测量技术的可靠性和便捷性。

4 结论

近些年来出现的摄影测量技术与传统方法相比具有更多的优势, 所以在隧道工程建设中引入其来进行工程安全的监测, 是一种极具发展潜力的选择和应用。在图像信息的后期整理中, 可以利用MATLAB软件来帮助筛选和处理, 使用RBF神经网络技术对相机的内外部参数进行标定, 进而得到所需的数据结果。这种方法智能化程度相比较高, 节省了大量的整理时间, 在很大的程度上将工作效率予以提高。

摘要：近些年来出现的摄影测量技术的迅速发展, 使得隧道施工方面监控量测的应用显得尤为重要。通过滤波对不同区域的图像进行处理, 并采用Matlab软件对图像进行边缘和角点的提取。最后, 利用RBF神经网络方法进行图像测量, 计算结果与三维坐标值存在着偏差, 但不超过允许的误差范围。这为隧道变形的监测工作提供了新的思路和新的方法。

关键词：RBF神经网络,图像测量,隧道监测

参考文献

[1]陈振华, 赵鸣, 乔东梁.一种基于近景摄影测量理论的地铁隧道变形监测方法研究[J].特种结构, 2014 (5) :61-65.

[2]张俊生, 侯慧玲, 赵晓霞.一种基于图像平滑的阈值分割方法[J].光电技术应用, 2011, 26 (6) :62-65.

[3]王佳, 韩龙.基于机器视觉的图像平滑方法比较研究[J].可编程控制器与工厂自动化, 2011 (11) :77-78.

[4]韩晓兰.角点检测研究及在医学图像处理中的应用[D].北京:北方工业大学, 2011.

RBF人工神经网络第6篇

关键词：系统辨识,Hammerstein模型,RBF神经网络

0 引言

系统辨识(Syst em I dent i f i cat i on)是研究建立被控对象或过程数学模型的一种理论和方法。它是在输入和输出数据的基础上,从一组给定的模型类别中,确定一个与所研究系统等价的数学模型[1]。Hammer st ei n模型(以下简称H模型)由非线性模块和线性动态模块串联构成,适合描述pH值或具有幂函数、死区、开关等非线性特性的过程,其背景是被控对象本身近似线性,但是执行机构具有近似静态非线性的情况[2]。自从Nar endr a和Gal l man提出用传统迭代法进行H模型辨识以来,由于其结构简单又能有效地描述动态系统的非线性特性,H模型的辨识问题长期以来一直引起极大的关注[2,3,4]。文献[2]对现有的H模型辨识方法进行分类,指出各种方法的优缺点,并提出了一种通过最小二乘、特征值分解和矩阵扩维,辨识基于H模型的非线性系统的新方法。其他文献多采用分离原理,把原非线性系统分解为线性和非线性两部分,由于线性动态部分是紧随在非线性部分之后,故线性辨识常受非线性估计误差的影响,其真值与线性参数估计的一致性无法得到保证。

神经网络作为一种建模方法,因为对象的动态特性和复杂映射关系都隐含在网络之中,所以具有强大的函数逼近能力。考虑到系统的实时性和网络的收敛速度和稳定性,本文采用径向基函数(Radi al Basi s Funct i on,RBF)神经网络来设计。而且现有文献已表明,RBF网络在理论上能以任意精度逼近任一连续函数[5],这就为本文的工作奠定了理论基础。相对于BP(Back Pr opagat i on)神经网络而言,RBF网络是一种局部逼近的神经网络。以往的做法是在隐含层设计较多神经元,通过调整隐含层与输出层的连接权系数来进行训练。本文除了调整连接权系数外,还增加对基函数形状参数和中心向量的调整,这样就缩减网络隐含层神经元数,确保训练速度和控制质量。

1 Hammerstein模型描述

H模型有广义模型和简便模型之分。广义H模型能比较全面而细致地描述非线性,但是形式较为复杂,参数多;简便H模型虽不是那么精确,但形式简洁,处理方便,参数较少,而且在工程上也能很好地描述一些非线性过程。图一示出其模型结构图。

在图一中，u(k)、y(k)和ξ(k)分别是辨识输入、系统输出和噪声序列;x(k)是中间输入,既是线性动态系统的输入又是无记忆非线性部分的输出,实际过程中是不可测量的。则输入输出表达式为：

这里的无记忆非线性函数为：

式中,ri(i=0,1,…,p)为未知系数，线性动态系统传递函数为：

对此系统作如下假设:

(1)测试输入信号为具有概率同分布的随机白噪声;

(2)系统线性部分和非线性部分的阶数都是有限的,即na、nb和p是有上界的;

(3)A(z-1)是稳定多项式,A(z-1)和B(z-1)互质。

根据上述假设和正实函数稳定性定理,可知系统是稳定的。

2 辨识网络设计

2.1 RBF神经网络

RBF网络的结构与多层前向网络类似,但它是具有单隐含层的一种两层前向网络。输入层由信号源节点组成,隐含层的单元数视所描述问题的需要而定,输出层对输入的作用做出响应。从输入空间到隐含层空间的变换是非线性的,而从隐含层空间到输出层空间的变化是线性的。隐单元的变化函数是RBF,它是一种局部分布的对中心点经向对称衰减的非负非线性函数。多输入单输出的RBF网络结构如图二所示：

图二中,输入层节点只是传递输入信号到隐含层,隐含层节点由像高斯函数那样的辐射状作用函数构成,而输出层节点通常是简单的线性函数。隐含层节点中的作用函数对输入信号将在局部产生响应,也就是说,当输入信号靠近该函数的中央范围时,隐含层节点将产生较大的输出。

隐含层节点的作用函数有多种形式,但最常用的是高斯激活函数。因为高斯函数具有以下优点:

(1)径向对称,形式简单,易于描述问题;

(2)光滑性好,任意阶导数存在;

(3)解析性好,因而便于进行理论分析。

隐含层第i个节点的输出为：

网络输出为：

其中,x=(x1,x2,…,xN)T是输入向量;ci=(ci 1,ci 2,…,ci N)T是第i个隐节点高斯函数中心向量,此向量是一个与输入维数相同的列向量;σi是第i个隐节点高斯函数形状参数。

从整体看,网络由输入到输出是非线性的,从局部看,网络输出对隐含层却是线性的,可以通过调整权系数来改变网络的输出,从而加快了学习速度,避免局部极小的问题。

2.2 辨识算法

设有多输入单输出非线性对象为:

所要完成的任务是:建立RBF神经网络,通过学习训练,逼近函数f(·)完成动态建模,使实际输出y(k+1)与网络输出∧y(k+1)一致。

取网络输入向量为:

其中,N=n+m+2。隐含层第i个节点的输出同式(4)，网络输出为：

其中,M为隐含层神经元个数,应由具体情况而定,一般有M>N。定义目标函数为：

学习过程按使误差函数J减小最快的方向调整加权系数直到获得满意的加权系数集为止。根据梯度法,可得隐含层至输出层的权系数修整公式为:

根据寻求中间变量求偏导的方法,得：

联合式(10)和式(11)得最后的调整公式为：

由前小节的分析可知，采用高斯函数作基的RBF神经网络是局部逼近网络,实践中发现,高斯函数的形状参数和中心向量对网络输出影响很大,在它们固定不变的前提下,只有当输入落在中心向量附近时,才对输出有影响。

文献[5]介绍了RBF网络的两个学习阶段,第一阶段是无教师学习,根据所有的输入样本决定隐含层各节点的高斯核函数的中心向量ci和形状参数σi;第二阶段是有教师学习,在决定好隐含层的参数后,根据样本,利用最小二乘原则求出隐含层至输出层的权值wi。这样计算量就较大,而且中心向量和形状参数确定以后,单靠调整连接权系数来逼近非线性,有时会出现收敛时间过长,逼近精度差的现象。为了解决这个问题,也有采用增加神经元数目的办法来解决,这样又增加了计算量。现仿照文献[6]的做法,增加调整基函数中心向量和形状参数的做法,它既不增加隐含层神经元数目,又可以提高逼近速度和精度。根据梯度法,中心向量和形状参数调整公式为：

式中,αi、βi和γi为学习速率,一般∈(0,1]，用于控制权值调整速度。

3 仿真结果

为了验证本文提出的算法的有效性,采用pH中和滴定过程作为对象进行仿真实验,其模型为：[2]

其中，△(k)为建模误差,输入设定为u(k)∈(-5,5),采用本文中的算法的辨识结果如图三所示。图三中,实线为实际系统即H模型输出,虚线为RBF辨识网络的输出。图四表示它们之间的输出误差。

采用在线辨识技术,将学习和辨识同时进行。从图中可以看出,RBF网络经过短暂的学习过程,就能很好地跟踪H模型输出,因此本算法取得很好的学习速度和辨识精度。

4 结束语

本文提出了一种将学习和辨识同时进行的在线辨识技术,并且在调整输出权值的基础上,增加调整基函数的形状参数和中心向量。与传统的RBF算法相比,首先它省去了决定基函数的形状参数和中心向量的无教师学习阶段;其次采用由于在线辨识,RBF网络学习速度很快,适于在线实时控制。

参考文献

[1]徐湘元.自适应控制理论与应用[M].北京:电子工业出版社,2007.

[2]向微,陈宗海.基于Hammerstein模型描述的非线性系统辨识新方法[J].控制理论与应用,2007,24(1):143-147.

[3]Narendra K,Gallman P.An iterative method for the iden-tification of nonlinear systems using a Hammerstein model[J].IEEE Trans on Automatic Control,1966,11(3):546-550.

[4]张平安,李人厚.基于人工神经元网络的Hammerstein模型辨识[J].控制与决策,1996,11(S1):193-197.

[5]李国勇.智能控制及其MATLAB实现[M].北京:电子工业出版社,2005.

RBF人工神经网络第7篇

PID控制器结构简单、工作稳定、调整方便,在过程控制领域已得到了广泛应用,但传统PID控制器不易在线实时调整参数,难以对一些系统内部的耦合以及对象参数的复杂性与不确定性进行有效控制。而神经网络不依赖于被控对象精确的数学模型,具有良好的自学习、自适应能力。因此,人们将两者结合起来提出了许多基于神经网络的智能PID控制算法[1,2,3,4]。

径向基函数RBF神经网络作为一种前馈网络,能够以任意精度逼近解析非线性关系,具有容错性能好、收敛速度快、结构参数可实现分离学习等特点,成为处理多输入多输出系统(MIMO)中复杂非线性、不确定性和耦合性问题的有力工具[5,6,7]。文献[3]采用RBF神经网络来辨识非线性复杂系统,自适应地整定PID参数,仿真结果显示其比传统的PID整定具有超调量小,鲁棒性和适应性较强等优点。但文中用梯度下降法训练权值,使得网络在控制初期响应速度慢,控制适应能力不强。文献[7]采用动态K-均值聚类方法对RBF神经网络的隐层中心值和宽度进行优化,并提出了一种基于代数算法的径向基神经网络的训练方法,对非线性函数进行逼近。该方法能够直接求得最优点,实现网络样本的精确映射,保证了较快的收敛速度,不存在陷入局部极小的问题。本文将两者的优点相结合,采用最近邻聚类方法对RBF神经网络的隐层中心值和宽度进行优化,用代数算法训练隐层和输出层之间的权值,再用得到的动态径向基函数网络对非线性系统进行在线辨识,并将获得的雅克比信息对PID控制参数自整定,从而实现对被控对象实时、精确的解耦控制。

1 神经网络和PID相结合自适应控制方法

1.1 RBF神经网络辨识器设计

1.1.1 RBF神经网络构造

RBF是由J.moody和C.Darken在1980年代末提出的一种具有单隐层的三层前馈网络。该网络的拓扑结构如图1所示。

在RBF神经网络结构中,输入层的输入变量为X=[x1,x2,…,xn]T,输出等于ym,隐含层中径向基向量为H=[h1,h2,…,hm]T,hj为高斯基函数。

$h_{j} = \exp (- \frac{∥ X - C_{j} ∥^{2}}{2 b_{j}^{2}}) j = 1, 2, \dots, m$

该隐层中,第j个节点的高斯基函数中心矢量为:

Cj=[cj1,cj2,…,cjn]Tj=1,2,…,n

设网络隐含层节点的基宽向量为:

B=[b1,b2,…,bm]T

其中bj为节点j的高斯基函数半径,‖·‖为向量范数,一般为欧氏范数。

隐层至输出层的权向量为:

W=[w1,w2,…,wm]T

网络输出函数为:

$y_{m} (k) = \sum_{j = 1}^{m} w_{j} h_{j} = \sum_{j = 1}^{m} w_{j} \exp (- \frac{∥ X - C_{j} ∥^{2}}{2 b_{j}^{2}})$

采用最近邻聚类学习算法进行网络构造[3,4],每一个输入输出对都有可能产生一个新的聚类,因此构造出的RBF神经网络是一种动态自适应网络,对参数和结构自适应调整这两个过程实际上是同时进行的[5]。

(1) 确定合适聚类半径b,定义一矢量S(l)存放属于各类的输出之和,定义一个计数器T(l)统计各类样本个数,W(i)存放权值 (i=1,2,…,m),m为类别数,(ci,di)为第i类的中心。

(2) 对第一对数据(x1,y1),令其自成一类。令S(1)=y1,T(1)=1,这样建立的RBF网络只有一个隐单元,其中心c1=x1,d1=y1,该隐单元到输出层的权矢量为w1=S(1)/T(1)。

(3) 考虑到第k个样本数据对(xk,yk)时,k=2,3,…,M,假设已有m个聚类中心, 由 $d = \sqrt{∥ x^{k} - c_{j i} ∥^{2} + ∥ y^{k} - d_{j}_{i} ∥^{2}}, (j = 1, 2, \dots ‚ m)$ 求出(xk,yk)到m个聚类中心的距离。dkmin为这些距离的最小值,即cji为(xk,yk)的最近邻聚类。若dkmin>b,(xk,yk)为新的聚类中心,Cm+1=xk,S(m+1)=yk,T(m+1)=1,网络中再添加第m+1个隐层单元,隐单元到输出层的权值 w(m+1)=S(m+1)/T(m+1)。若dkmin≤b,计算S(i)=S(i)+yk,T(i)=T(i)+1,当i≠k,保持S(i)和T(i)值不变,隐单元到输出层的权值为w(i)=S(i)/T(i)。

动态RBF网络输出为:

$y_{m} (k) = \frac{\sum_{j = 1}^{m} ω_{j} \exp (- \frac{∥ X - C_{j} ∥^{2}}{b^{2}})}{\sum_{j = 1}^{m} e x p (- \frac{∥ X - C_{j} ∥^{2}}{b^{2}})}$

1.1.2 网络训练算法

传统的训练神经网络的方法主要是采用梯度下降法,该种方法收敛慢且很可能陷入局部极值点[6],代价函数J难以达到全局最小,隐层神经元个数的选择无理论依据。代数算法是将复杂的非线性优化问题转化为一组线性代数方程组来求解而成为一种全新的神经网络学习算法,这种新型前馈神经网络学习算法具有很高的精度、较快的运算速度[7,8]。

训练后的网络应使下面的代价函数取极小值:

Jm=min‖Ym(k)-YN(k)‖ $_{F}^{2}$ (1)

式中‖Ym(k)-YN(k)‖ $_{F}^{2}$ 是Ym(k)-YN(k)的Frobenius范数。RBF的输入输出关系为:

Y0=f(W0X) (2)

Ym=W1TY0 (3)

W0为输入和隐层间的权矩阵,W1为隐层和输出层间的权矩阵。输入层到隐层之间的权值W0固定为1,由式(3)得:

YmT=Y0TW1 (4)

如果Y0T行满秩,也就是Y0列满秩,则必有:

rank(Y0T)=rank(Y0T,YmT) (5)

由矩阵理论可知,式(5)是方程组(4)有解的充分必要条件。也就是说如果式(5)成立,就意味着J=0(即网络实现了精确映射)。由于:

row(Y0)=l col(Y0)=k (6)

式中,符号row(Y0)表示矩阵Y0的行数,符号col(Y0)表示矩阵Y0的列数,对于满秩矩阵有:

rank(Y0)=min{row(Y0),col(Y0)}=min{l,k}

式中l表示隐层神经元的个数,k表示待训练样本对的个数。

rank(Y0)=min{row(Y0),col(Y0)}=min{l,k}=k (7)

这就意味着:

l≥k (8)

为了简化神经网络的结构,在保证式(8)成立的前提下,总希望神经元的个数尽可能小,因此应取l=k,此时满足Y0是k×k阶方阵,故只要Y0是非奇异,则式(4)存在唯一解W1。经过改进的神经网络存在Jm=min‖Ym(k)-YN(k)‖ $_{F}^{2}$ 或者说,映射M:X→Ym对训练过的样本来说是无误差的精确映射。

系统辨识后,辨识输出很好的逼近实际系统的输出yN,对象的Jacobin信息用∂ym/∂u取代。

$\frac{\partial y_{Ν} (k)}{\partial u (k)} \approx \frac{\partial y_{m} (k)}{\partial u (k)} = \frac{\partial y_{m} (k)}{\partial x^{k}} = \frac{2 (Ρ_{1} Τ_{1} - Ρ_{2} Τ_{2})}{Ρ_{1} \cdot b^{2}}$

$\begin{array}{l} 式中 ∶ Ρ_{1} = \sum_{i = 1}^{q} \exp (- \frac{∥ x^{k} - C_{i} ∥^{2}}{b^{_{2}}}) \\ Ρ_{2} = \sum_{i = 1}^{q} w_{i} \exp (- \frac{∥ x^{k} - C_{i} ∥^{2}}{b^{_{2}}}) \\ Τ_{1} = \sum_{i = 1}^{q} (\exp (- \frac{∥ x^{k} - C_{i} ∥^{2}}{b^{_{2}}}) \cdot C_{1 i}) \\ Τ_{2} = \sum_{i = 1}^{q} (w_{i} \exp (- \frac{∥ x^{k} - C_{i} ∥^{2}}{b^{_{2}}}) \cdot C_{1, i}) x = u (k) \end{array}$

以此自动调整PID参数,实现解耦控制[9]。

1.2 自适应PID控制器(NNC)设计

PID控制器[3]是针对系统偏差的一种比例、积分和微分的控制方法,若控制器参数Kp、Ki和Kd不变,则此控制器即为一个常规控制器。

设系统输入指令信号为r (k),则系统的控制误差为:

e (k)=r (k)-y (k)

控制器输入:

x=[xc1(k),xc2(k),xc3(k)]T

式中: xc1(k)=e(k)-e(k-1)

xc2(k)=e(k)

xc3(k)=e(k)-2e(k-1)+e(k-2)

其增量PID控制算法为:

u(k)=u(k-1)+Δu(k)

=u(k-1)+kp[e(k)-e(k-1)]+kie(k)+

kd[e(k)-2e(k-1)+e(k-2)]

参数整定的性能指标函数取:

$J_{c} = \frac{1}{2} [r (k) - y (k)]^{2}$

控制器参数Kp、Ki、Kd的调整采用梯度下降法[10]在线调整,具体调整算法为:

$\begin{array}{l} Δ k_{p} = - η_{p} \frac{\partial J_{c}}{\partial k_{p}} = - η_{p} \frac{\partial J_{c}}{\partial y} \frac{\partial y}{\partial u} \frac{\partial u}{\partial k_{p}} = - η_{p} e (k) \frac{\partial y}{\partial u} x_{c_{1}} (k) \\ Δ k_{i} = - η_{i} \frac{\partial J_{c}}{\partial k_{i}} = - η_{i} \frac{\partial J_{c}}{\partial y} \frac{\partial y}{\partial u} \frac{\partial u}{\partial k_{i}} = - η_{i} e (k) \frac{\partial y}{\partial u} x_{c_{2}} (k) \\ Δ k_{d} = - η_{d} \frac{\partial J_{c}}{\partial k_{d}} = - η_{d} \frac{\partial J_{c}}{\partial y} \frac{\partial y}{\partial u} \frac{\partial u}{\partial k_{d}} = - η_{d} e (k) \frac{\partial y}{\partial u} x_{c_{3}} (k) \end{array}$

式中,ηp、ηi和ηd为PID参数学习速率。

1.3 解耦控制系统结构设计

本文采用了一种并行控制结构,具有相同结构的PID控制器并联分别控制各个非线性回路。RBF神经网络自适应PID控制系统结构如图2所示。其中NNI1、NNI2为RBF辨识器,D为延时器,被控对象为二变量的耦合系统。r1(k)、r2(k)为系统参考输入,ym1(k)、ym2(k)为辨识器输出,y1(k)、y2(k)为系统实际输出。

2 仿真

薄膜厚度控制系统[11]是一个复杂的非线性、强耦合、时滞系统,其相邻螺栓之间的耦合关系为:

${\begin{cases} y_{1} (k) = 0.5 y_{1} (k - 1) + 2.5 u_{1} (k - 1) + 2.5 u_{2} (k - 1) + ε_{1} (k) \\ y_{2} (k) = 0.5 y_{2} (k - 1) + 1.25 u_{1} (k - 1) + 1.25 u_{2} (k - 1) + ε_{2} (k) \end{cases}$

其中,ε1(k)为 (0,0.02)的来料流动随机噪声,ε2(k)为(0,0.3)的熔体压力波动随机噪声。

解耦前,当调节某一螺栓时,必然会引起相邻螺栓处的机唇发生不同程度的变位。基于代数算法的RBF-PID解耦控制仿真结果如图3所示,其中,机头螺栓调节量初始值为0,阶跃输入分别为(a) r1=10μm,r2=5μm;(b) rl=8μm,r2=5μm;(c) r1=10μm,r2=7μm;(d) r1=12μm,r2=3μm。由图3可见,y1随r1的改变而改变,y2随r2的改变而改变,r1的改变对y2无影响,r2的改变对y1无影响。因此,y1和y2已经被解耦。

与文献[3]基于梯度下降法的RBF网络PID解耦控制相比,本文基于代数算法的RBF网络PID解耦控制具有更快的响应速度和更好的控制效果,如图4所示,其中输入r1=8μm,r2=5μm。

3 结论

本文设计了基于代数算法的RBF神经网络自适应PID控制方法,采用代数算法训练RBF神经网络能够实现网络样本的精确映射,并保证较快的收敛速度。以上仿真结果可以看出基于代数算法的RBF-PID解耦设计在薄膜厚度控制系统中收敛速度快、误差小,取得很好的解耦效果。该算法对工业控制中多变量耦合问题提供了一种较有效的解决方法。

参考文献

[1]Zhang Mingguang,Li Wenhui,Liu Manqiang.Adaptive PID Control Strategy Based on RBF Neural Network dentification[J].IEEE,Com-puter society,2005,16(16):1854-1857.

[2]Chen Junghui,Huang Tienchih.Applying neural network to on-line updated PID controllers for nonlinear process control[J].Journal of Process Control,2004,(14),211-230.

[3]李绍铭,刘寅虎.基于改进型神经网络多变量系统的PID控制[J].重庆大学学报,2007,30(2):53-57.

[4]袁海斌,李运华,袁海文,等.大型轮式工程车辆转向系统的神经网络PID控制[J].系统仿真学报,2005,17(5):1185-1187.

[5]朱明星,张德龙.RBF网络基函数中心选取算的研究[J].安徽大学学报,2000,24(1):72-78.

[6]Pedrycz W.Conditional fuzzy clustering in the design of radial basis function neural network[J].IEEE Transactions on Neural Networks,1998,9(4):601-612.

[7]张江涛,刘旭敏.一种基于代数算法RBF神经网络优化方法[J].计算机工程与应用,2008.44(5):96-98.

[8]张代远.神经网络新理论和方法[M].北京:清华大学出版社,2006:26-33.

[9]黄均安,王跃,李秀珍.多变量系统的神经网络解耦[J].工业仪表与自动化装置,2008,4(4)13-14.

[10]刘金琨.先进PID控制MATLAB仿真[M].北京:电子工业出版社,2005.

RBF人工神经网络第8篇

预测控制具有多步预测、滚动优化和反馈校正的控制策略,自形成以来,就得到了广泛应用。动态矩阵控制(DMC)[1~2]是一种适用于渐近稳定的线性或弱非线性对象的预测控制算法,目前已广泛应用于工业过程控制。预测控制算法和智能化的手段相结合成为新的研究途径。

陶瓷窑炉在建材行业中被广泛使用,其温度控制技术直接影响了产品的品质[3]。陶瓷窑炉温度呈现非线性和不确定性,用数学回归方法很难得到精确模型,RBF神经网络理论能够学习非线性系统,可对任意连续非线性映射形成任意精度的逼近,在非线性系统建模和辨识方面具有收敛速度快和逼近能力强的优点[4]。所以,本文将引入基于RBF神经网络[5~6]来解决陶瓷窑炉温度的预测控制问题,并与PID控制行仿真比较。

1 基于RBF网络动态矩阵控制算法

1.1 RBF模型预测

径向基函数RBF神经网络是一种3层前向网络,输入层直接由信号源节点构成,其作用只是接受输入信号并将其传递到隐含层;隐含层单元数由所求解的问题的具体情况而定,该层神经元的传递函数是一种局部分布的对中心点径向对称衰减的非负非线性函数;而第三层输出层只实现对隐含层节点非线性基函数输出的线性组合,如图1所示。

设网络的输入x为M维向量,输出y为L维向量,输入输出样本长度为N。隐层由径向基函数构成,每个隐层节点的中心参数为ci,宽度为σi,隐层至输出层连接权为wi。

RBF网络隐层第i个节点的输出为:

式中:x为M维向量,ci是第i个节点中心,i=1,2,3…L,‖·‖,为欧几里德范数。构造训练RBF神经网络就是要使其通过学习,确定出每个隐层神经元基函数的中心ci和宽度σi,以及由隐层到输出层的权wi。

网络输出层第个节点的输出为隐节点的输出线性组合:

RBF学习算法:

(1)给定各节点初始中心ci(0),及初始学习率a(0)<1。

(2)计算第k步距离

(3)求出最小距离dr(k)=mindi(k)

(4)修正RBF网络中心

(5)判定聚类质量

对于全部样本反复进行(2),(3)步,直至满足上述条件,则聚类结束。

然后修正学习率,训练由隐层至输出层的权值wi。

本文针对陶瓷窑炉某纵向处热电偶的温度,建立实测温度与经验温度之间的关系模型,当实测温度偏离经验温度时,采集的温度数据通过预测控制器修正,输出信号调节燃料量以及空气、燃料之比,从而达到调节温度的目的[7]。

1.2 滚动优化

RBF神经网络预测控制算法的优化计算是建立在上述预测模型的基础上,它要求控制的每一步都向未来有限步提出优化要求以达到最优控制的目的。其优化性能指标是随着时间的推移而变化的滚动式优化。最常用的是在优化点上取参考轨迹和过程预测输出的误差平方和最小化。由动态矩阵预测控制可知,要获得最优控制,应在线优化性能指标函数J在t=k T时:

从而可以获得系统动态矩阵预测控制增量最优解为:

取最优解中的即时控制增量△u(k)构成实际控制量u(k)=u(k-1)+△u作用于系统,进行滚动优化,得到Q=diag(q1,…qp),R=diag(r1,…r M)。

1.3 反馈校正

式中:误差,y=(k+1)为实际输出,为模型预测输出。

2 陶瓷窑炉RBF动态矩阵预测控制

陶瓷窑炉温度对象具有大时滞、非线性和不确定性的过程特点。采用常规控制方法难以达到理想的调节效果。为实现陶瓷窑炉的先进控制,必须采用新的温度控制方法。

在正常运行状态下,陶瓷窑炉作为典型的热工过程,可近似用一阶惯性加纯滞后环节表示,传递函数为[8]:

式中,τ为纯滞后时间;k为放大系数;T为惯性环节时间常数,根据实际窑炉系统加入阶跃增量后的响应,设定时延τ=10s,放大系数k=5,T=20。对象为大时滞特征,为解决温度控制系统的响应滞后时间长问题,本文采用图2形式的控制方案。

针对陶瓷窑炉对象,利用200组数据对该过程特性进行建模。为消除直接以原始数据对网络进行训练引起的神经元饱和现象,在对网络进行训练之前必须对数据进行处理,以消除原始数据形式不同所带来的不利。通常的做法是归一化处理。进而得到RBF模型的开环响应曲线如图3所示。

根据图2构造的闭环系统,DMC控制器设计中,建模时域N=60,预测时域P=50,控制时域M=1,权值矩阵Q=eye(P),R=0.1eye(M)。

(1)跟踪给定温度值200℃并与PID控制相比较,仿真曲线如图4所示。

与传统PID控制相比,RBF动态矩阵控制无超调。

(2)为验证系统的抗干扰能力,在t>150,给对象增加一个3%的阶跃干扰信号,仿真曲线如图5所示:

由图5可知,RBF动态矩阵控制抗干扰能力要优于传统PID控制。

仿真结果表明,针对陶瓷窑炉温度过程,应用RBF动态矩阵预测控制可得到很好的控制效果,在有系统扰动依然具有很好的动、静态性能,并且表现出很强的鲁棒性。

3 结语

本文提出了一种陶瓷窑炉温度的动态矩阵数字控制方法。该方法不过分依赖于被控对象的准确数学模型的一种预测控制方法。在控制精度、动态性能和鲁棒性等方面优于经典反馈控制。通过仿真检验,证明了本文所提出方法的优越性。

摘要：陶瓷窑炉普遍具有纯滞后、大惯性、非线性、时变复杂等特点,其精确数学模型往往很难获取。针对这类系统,本文采用RBF神经网络建立被控对象模型,避免了常规控制算法建立对象精确数学模型的困难。应用动态矩阵预测算法实现对被控系统的预测控制。该控制方法具有很好的动、静态性能和强鲁棒性。以陶瓷窑炉温度为对象,与PID控制进行了比较;仿真结果证明了所提控制方法的有效性。

关键词：陶瓷窑炉,RBF神经网络,动态矩阵控制,温度

参考文献

[1]齐维贵,朱学莉.供热系统动态矩阵控制的仿真研究[J].系统仿真学报,2003,15(1):96-99

[2]李华,黄鲁江.基于α阶逆的大时滞非线性动态矩阵控制[J].控制工程,2009,16(6):702-704

[3]程春明,程昭华.陶瓷生产中的温度参数及温度控制[J].佛山陶瓷,2001,56(11):14-17

[4]Karayiannis N B.Gradient descent learning of radial basis neural networks[J].IEEE Int Conf Neural Networks,1997,3(9):1815-1820

[5]曲丽萍,曲永印,薛海波.石墨化炉人工神经网络预测控制的研究[J].控制工程,2006.13(5):466-468

[6]焦李成.神经网络系统理论[M].西安:西安电子科大出版社,1993

[7]刘耀年,李迎红,刘俊峰等.基于人工鱼群算法的径向基神经网络的研究[J].东北电力大学学报,2006.26(4):23-27

本文来自 99学术网(www.99xueshu.com)，转载请保留网址和出处

【RBF人工神经网络】相关文章：

人工神经网络评价法07-20