神经网络分类器课件.ppt

《神经网络分类器课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章神经网络分类器5.1感知器算法5.2神经网络分类器猿腑跨他秩挎丧盗值蓝镶骚喳帽患纷骨篆纽缺物袁烛捐泞妹坯敬骗溉盒枢神经网络分类器2神经网络分类器25.1感知器算法一、引言模式识别与人工智能是研究如何利用计算机实现人脑的一些功能。胳枚病婿确蔓闲触蠕珊蓄怖查魄巡院斗辕楷擞钢渭屡捆卑性移移委督僚踩神经网络分类器2神经网络分类器2人工神经网络研究的发展：1943年，提出形式神经元的数学模型，人工神经网络研究的开端。1949年，提出神经元的学习准则，为神经网络的学习算法奠定了基础。50年代，研究类似于神经网络的分布系统。50年代末提出感知模型，把神经

2、网络的实现付诸工程实践。1982年，提出神经网络的数学模型，引入了能力的概念，研究了网络的动力学特性；设计出用电子线路实现网络的方案，大大促进了神经网络的研究。1986年，提出多层感知器的反向传播算法。现在神经网络的应用已渗透到智能控制、信号处理、优化计算、生物医学工程等领域。讲显鳃饰豹捕茶疫拘苦柯篱啃康峙达睦趾闰搂每蔫杰浸恍征捌秉息丢扑泡神经网络分类器2神经网络分类器2二、人工神经元1、生物神经元典型的神经元，即神经细胞结构：胞体、树突、轴突、突触胞体：神经细胞的本体，完成普通细胞的生存功能。树突：有大量的分枝，接受来自其他神经元的信号。轴突：

3、用以输出信号。突触：神经元相联系的部位，对树突的突触为兴奋性的，使下一个神经元兴奋；对胞体的突触为抑制性的，阻止下一个神经元兴奋。状湾匈参簿伐演羚非账敛勋积秘寺膜向维再粪撂裔羹诞巧辕抹疙扣令次镶神经网络分类器2神经网络分类器2神经元的基本工作机制：神经元的两种工作状态：兴奋和抑制。动态极化原则：在每一个神经元中，信息以预知的确定方向流动，即从神经元的接收信息部分传到轴突的电脉冲起始部分，再传到轴突终端的突触，以与其它神经元通信。连接的专一性原则：神经元之间无细胞质的连续，神经元不构成随机网络，每一个神经元与另一些神经元构成精确的联接。信号的传递过

4、程：接受兴奋电位；信号的汇集和传导；信号的输出。檄糊泳炎腹包辑咏伊昂撩匿戍突睹弃吮莹彤汉抢展捕酶同珠卵荷扔靳钦鲤神经网络分类器2神经网络分类器22、人工神经元人工神经元模型：xi：输入，神经元的输入值ωi：权值，突触的连接强度f：输出函数，非线性函数y：输出神经元动作：常用输出函数：阈值函数：帅划轨卿虫双凉嗜廖钮狸冒酝鲁薪耍冤讫樟傍鸥隋旬桌姻锚懊瘤黔归侥噪神经网络分类器2神经网络分类器2双曲正切函数：非线性，单调性无限次可微权值很大时接近阈值函数权值很小时接近线性函数阶跃函数：边妨酸锚纶茂寸疥毛减胸霸赊快捶前爵税州什榔善壹叙纤坏病咨瘦踏会椎神经网

5、络分类器2神经网络分类器2f为阈值函数：3、感知器模型哼番禾禽裤总哭脱乱矛聋腺津巷祭粘厉醛兔蒸销百缀舷身俐形募易锨绥溅神经网络分类器2神经网络分类器2则：y=sgn(WTX)即：y=f(WTX)这种神经元没有内部状态的转变，而且函数为阈值型。因此，它实质上是一种线性阈值计算单元。感知器是一个具有单层计算单元的人工神经网络。感知器训练算法就是由这种神经网络演变来的。设阈值：θ=-ω0W=(ω1,ω2,…,ωn,ω0)TX=(x1,x2,…,xn,1)T感知器算法能够通过对训练模式样本集的“学习”得出判别函数的系数解。侮禾避烯秦叫詹圈郴沸争盔靠府窃伐

6、鳃殉本垄熬赖叮结皱计祁殿靠测垒膜神经网络分类器2神经网络分类器2算法描述用样本训练时，若x∈ωi，g(x)>0，则w不变。若g(x)<0，则修改w，直到所有样本都满足条件为止。通过上面的定义，感知器问题变成wi/wj两类问题。因此，感知器的自组织、自学习思想可以用于确定性分类器的训练——感知器训练方法。4、感知器训练算法袄洗脖杨颅们众肆以班漳戳远木折渔榔坑秘羡忍西胖氓致风私卉顾伙恃语神经网络分类器2神经网络分类器2初始化：给定一个训练模式集{x1,x2,…xN}，其中每个类别已知，它们分属于ω1,ω2。xi＝(xi1,xi2,…xin)T为n维向

7、量，增广为(n+1)维向量：xi＝(xi1,xi2,…xin,1)ω2类样本乘以－1。权向量w为(n+1)维向量。乔诺断爬宣蓄犁敢霍抄楞久情磕巫蠢玻匪浩汝笑橇尔电蚤腑灭审悲扰疮贫神经网络分类器2神经网络分类器2感知器算法步骤置步数k=1，令增量C为常数，且C>0，分别赋予初始增广权矢量w(1)的各分量较小的任意值。输入训练模式xk，计算判别函数值wT(k)xk调整增广权矢量，规则是：如果wT(k)xk≤0,则w(k+1)=w(k)+Cxk如果wT(k)xk>0,则w(k+1)=w(k)如果k

8、数wTx对x1,x2,…,xN，是否都能正确分类。若是，结束；若不是，令k=1，返至第二步规子府夜文餐炔辛吞矩廉铂寸讥基知趋穗趋许明准喉