资源描述：
《自组织特征映射神经网络(SOM).pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、CH.6自组织特征映射神经网络ÜSupervisedLearningNN(有监督、有教师)NeuralYk()NetworkÜ自组织特征映射X()k--SelfOrganizationFeatureMapping(SOM)Dk()FUnsupervisedLearningNN(无监督、无教师)学习神经网络LearningAlgorithm--Kohonen提出(1981年)，用于自动分类、寻找聚类中心.6.1SOM神经网络及其学习算法…一、网络模型..T.´输入:n维,X=[,xx12,...,xn]输出层
2、…T输出:p个节点,Y=[,yy12,...,yp]…´输入层的每个节点与第j个输出单元之间的连接权记为:TWwww=[,,...,],jp=1,...,jj12jjn´输出:以竞争方式进行输出.在竞争中获胜的单元有输出(为1);xx12xn其余单元无输出(为0).jq=⎧2⎪1,ifW−→Xk()min´竞争原则:具有与当前输入X距离最近的y=⎨jj权矢量W的单元q为竞争获胜者,即q⎪⎩0,otherwise´Kohonen认为神经网络在接受外界激励时,各区域会有不同的响应特征,各连接权会有不同的分布变化
3、。邻近的神经元相互激励，较远的神经元相互抑制；响应最强的区域形成一个局部峰值(称为Bubble—墨西哥帽)。同时，权向量也将以某一矢量为中心形成局部区域。SOM网络既是按此原理构成。二、学习算法-各权矢量W的确定j1算法I:(i)初始化：w(0)←Smallrandomnumbers（也可根据先验知识）；,k←0;ji(ii)输入X(k),对W做下述操作：jÅ求出与X(k)最接近的权矢量W，q21/2min{WXkWXkd−=−=()(),((XY−=∑i(xyii−)))jqqjÇ定义单元q所在的邻域为N
4、tqk(),将Ntqk()中各单元的权进行修改,其它权值不变:Wt(1+=)()()Wt+αtXkWt[()()−],jNt∈()jkjkkjkjk其中α()tk是学习步长,0()1<αtk<邻域Ntqk()的选取:例如选在WWNtjqq−≤()k内的所有的j单元。(iii)kk←+1,goto(ii),直到网络收敛为止。2算法II(改进算法):在算法I中的(ii).Ç中采用如下算法修改权值：22首先令dX=−()kWjkj2dkjk()−2计算hke()=2()σk--高斯函数j22−k/τ121000其
5、中σσ()ke=,σ,τ为要适当选取的常数。有人建议取τ1=001lnσ0´修改权值算法：Wk(1+)()()()=+WkαkhkXkWt[()()−],jp=1,2,...,jjjjk其它步骤与算法I相同。对于WXk=(),hk()1;=´由上面算法可见，jj对于WXkj≠(),hkj()按高斯曲线下降，--使得在竞争中获胜的权值得到修改的程度最大，而离获胜者越远，权值得到修改的程度越小。´还有其它改进算法例如:α()t的改进，使其与当前单元对应的权值修改次数有关，k随修改次数增加，使α()t↓。k三、讨
6、论1关于算法的收敛性（简述）设可将输入样本集合{Xkk(),=1,...,M}划分为p个子区间V，j每个Vj中有一个中心矢量Vj*--聚类中心,在物理上Vj*是Vj的质心。于是可证明：WV→jp=1,...,jj*2竞争学习算法(CompetitiveLearning,CL)仅修改竞争中获胜单元及其邻域的权值，而在竞争中失败单元的权值不修改。--Winner-takes-all,胜者为王；赢家通吃。通过竞争算法，建立起模式聚类中心(权矢量趋近于各个聚类中心矢量)。´典型的“无教师”学习(Unsupervis
7、edLearning)算法。23学习算法中邻域的选取dkjk()−2算法I：WWNt−≤()；算法II：hke()=2()σk（高斯函数）jqqkjWk(1+)()()()=+WkαkhkXkWt[()()−]jjjjk4学习步长的选取、改进一般须满足：0()1<<αtk此外，有的改进算法还与当前单元所对应的权值修改次数有关，与修改次数成反比。c例如，设C(j)第j单元权值的修改次数，取(,)logtj0α=k1()+Cj4如何应用SOM网络进行分类？…yq=1...学习结束后(权值已收敛),…用下述方法对
8、输入X进行分类：…(1)计算X与所有权矢量W的距离：jdXW=−,jp=1,...,jjxxx12n(2)在所有dj中，找出最小距离dq：dX=−min{}Wqjj⎧1,ifj=q(3)于是令：y=⎨(第q个单元的输出为1，其余为0)j⎩0,ifj≠q(4)分类：将X分为q类--输出为1的单元所对应的类别作为分类结果。xt()6.2SOM网络在矢量量化中的应用一、矢量量化…´标量量化：将采样信号xt()1，xt(
