模式识别导论(八).pdf

《模式识别导论(八).pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、模式识别导论人工神经网络在模式识别中的应用武汉大学遥感信息工程学院马洪超模式识别导论概述模式识别和人工智能一开始就试图模拟人脑的功能，从现阶段来看，虽然各种模式识别算法和系统具有部分人脑的功能，但总的来说，相差甚远。人脑可以看作是由单个脑细胞组成的、巨大并行的信息处理系统。如果将单个信息处理单元用算法来模拟，进尔将多个处理单元连接成一个巨大并行的处理系统，就是人工神经网络的基本思想。细胞体受外界刺激后，有兴奋和抑制两种状态，可以直观地将兴奋型和抑制型理解为其作用和不起作用。人工神经网络用器件或算法来模拟神经系统的某些机构和功能，一个简单的神经元功能模型如下：武汉大学遥感信息工程

2、学院马洪超模式识别导论x0w0nw1netwixix1∑fyi1yfnetwnnetxn上式函数f可以是线性、非线性甚至是等价函数，注意和线性判别函数相比较。神经元模型的确定仅仅确定了神经网络中各个个体的行为，但对整个网络的影响，还要结合其它神经元来考虑，这需要考虑神经元之间的连接方式，即拓朴结构武汉大学遥感信息工程学院马洪超模式识别导论—前向网络—输出向输入反馈的前向网络—层内互连前向网络拓朴结构图—全户联反馈网络见武大教材—局部互连反馈网络连接强度wi是可以修改的，如果wi＝0，则可以视为删除该元。根据经验来修改连接强度为学习规则。神经网络中，最基本的学习规则为

3、Hebbian规则，其它都可以看做是它的变种，其基本思想是：如果一个单元ui从另一个单元uj处接收输入，而且两者都是兴奋的，那么从uj到ui的权wij应该增强，用公式：武汉大学遥感信息工程学院马洪超模式识别导论wga(t),t(t)ho(t),wijiijij其中t(t)是由导师给定的标准值i将上式简化：没有导师给定的标准范例值，且函数g和h只是和它们的第一个参数相关，就有最简单的形式：waoijij其中代表学习速率另一个常用的变体是通式中ho(t),wo(t)jijj而ga(t),t(t)t(t)a(t)iiii武汉大学遥感信息工程学

4、院马洪超模式识别导论此时wt(t)a(t)o(t)ijiij此学习规则称为学习规则还有另一个变种wa(t)o(t)wijijij这是由Grossberg于1976年提出的，称Grossberg规则人工神经网络的通用框架可总结为如下几个部分1、处理单元集一个处理单元的工作只是简单地从它的相邻单元接收输入值，对输入值作用函数后，计算输出值，再将输出值武汉大学遥感信息工程学院马洪超模式识别导论输送到它的相邻单元，由于大量单元同时进行，故运算是并行的。根据性质，单元可分为输入单元、输出单元和隐单元2、激活状态对时间t时神经网络所出的状态进行标识，这可以用向量

5、a(t)来表述，向量中的元素ai(t)代表t时单元ui的激活情况，激活值可以是离散的，也可以是连续的3、单元的输出单元的激活状态决定单元的输出，oi(t)=f(ai(t)),f可以是等价函数、阈值函数或其它任何形式的函数4、连接模式通常我们认为每个单元为和它所连接的其它单元提供一定的输入信息，而每个单元的总输入可以简单地用来自武汉大学遥感信息工程学院马洪超模式识别导论其它单元的输入加权和来表示，权用wij来表示，代表从单元uj到ui的连接和强度，如果单元uj使单元ui兴奋（激活），则wij是一个正数，抑制为负数，0不起作用5、传播规则单元ui的输出neti，一般用加权和来表示，

6、写作net＝w*o6、激活规则根据单元的输入和当前状态，综合判断新状态，可以用函数F来表示，F可以是等价函数，这时a(t+1）＝net(t)＝w*o，可以是阈值函数或者其它函数。当用阈值函数时，输入超过该阈值为兴奋，否则为抑制7、学习规则见前述武汉大学遥感信息工程学院马洪超模式识别导论例子，用一个神经网络处理异或问题输入输出输出层e00011011101隐含层cd1101-11输入层a-1b单元的激活状态只有0、1，输出f取等价函数，即oi＝ai，传播规则neti（t)＝∑wij*oi(t)，F阈值函数，阈值为0.01，即如果neti(t)>0.01，则ai＝1，否则ai＝0武

7、汉大学遥感信息工程学院马洪超模式识别导论（1）当输入0,0时，a0,a0，又f是等价函数，因此aboo0,neto*wo*w0*10*(1)0abcacabcb同理：neto*wo*w0dadabdb因为net,net均小于0.01，所以a0,a0进而o0,o0cdcbcdneto*wo*w00.01,故oa0ececdedee(2)当输入为0,1时，a0,a1，o0,o1ababneto*wo*w0*11*(1)10.0