PSO-SOM分类判别研究及其应用.pdf

《PSO-SOM分类判别研究及其应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、高技术通讯2006年10月第16卷第10期PSO-SOM分类判别研究及其应用!涂晓芝!颜学峰"钱锋（华东理工大学自动化研究所上海200237）摘要针对网络初始权矢量选取的不确定性问题，提出了粒子群优化-自组织映射（PSO-SOM）算法，利用PSO算法优化SOM网络的初始权矢量，进而进行分类。将提出的方法用于基因表达数据的分类判别中，使得SOM网络的误差平方和大大下降，提高了网络的分类精度，表明PSO-SOM算法用于数据的分类判别是切实有效的。关键词自组织映射网络，微粒群算法，分类判别，基因表达数据表明，提出的PSO-SOM算

2、法提高了SOM网络的分类0引言精度，并且具有更快的收敛速度。自组织映射（seif-organizingmap，SOM）网络是由1粒子群优化-自组织映射网络芬兰赫尔辛基大学神经网络专家Kohonen教授在1981年提出的竞争式神经网络，它模拟大脑神经系1.1自组织映射（SOM）网络统自组织特征映射的功能，是一种无监督学习的神1.1.1SOM网络结构和算法经网络。SOM网络能够反映输入模式的统计特征Kohonen的SOM网络是一单层前向网络，网络并保持其原始空间的拓扑结构，在聚类分析［1］、语音结构相当简单（如图1所示），SOM

3、网络只有输入层［6］识别［2］及模式分类［3］等方面都获得了成功的应用。和输出层，且两层之间为完全连接。但在用其进行分类判别时，传统的SOM算法存在着一些缺点。如网络的初始权值参数是随机生成的，获得的映射结果严重依赖于初始权值参数的选取；在训练过程中，拓扑因子算法以及学习率算法难以选取且对提取输入向量的统计特征存在较大影响等。针对传统SOM算法的不足，近年来有不少研究［4］人员对其进行了探索和改进。如马正英提出了将遗传算法（geneticaigorithm，GA）应用于SOM网络聚［5］类中心权值的选取，获得了较好的分类性能

4、；许锋等提出了应用主元分析（principiecomponentanaiysis，图1SOM网络结构PCA）来优化SOM网络参数，不仅提高了网络的收敛速度，还改善了网络权值的性能。本文尝试从改进设输入矢量!:（x1，x2，⋯，xn）的维数为n，则SOM网络学习算法中初始权值的选择方法角度出输入层有n个节点；输出层是由m个神经元组成的发，提出了一种新的算法，由近年来兴起的一种进化二维平面阵列；输入层与输出层各神经元之间完全算法———粒子群优化（particieswarmoptimization，连接，设连接权值为wij，其中i

5、表示输入层第i个节PSO）算法来优化SOM网络的初始权值，即先采用点，j表示输出层第j个节点。输入层节点并不对输PSO算法选择初始的聚类中心，然后基于此初始中入矢量!进行处理，它只是把输入矢量的各个分量心用SOM算法进行训练得到最终分类结果。实验经过连接权传送到输出层，激发输出层各个神经元#国家自然科学基金（20506003）、教育部科学技术研究重点项目（106073）和上海启明星项目（04OMX1433）资助项目。!女，1981年生，硕士生；研究方向：智能信息处理。"联系人，E-maii：xfyan@ecust.edu.c

6、n（收稿日期：2005-11-01）—1014—涂晓芝等：PSO-SOM分类判别研究及其应用之间的竞争，因此输出层也称为竞争层。统计特征。给出I维输入矢量集!=（x，x，⋯，x）T，其I2gI.I.2算法参数选取中g为样本集合中全部输入矢量的个数。SOM网（I）连接权矢量初始值的确定。络的算法步骤如下：一般的学习规则是将连接权｛wij｝赋予［0，I］区（I）初始化。确定网络结构，包括输出层形状间内的随机值或所有的连接权矢量赋予相同的初［7］结构等，然后确定输出神经元个数，并对神经元权向值。但在实际应用中，这种初始化方法会出现

7、网量赋初值，设为"=（w，w，⋯，w）T，（j=I，2，络学习时间过长，甚至不收敛的情况。由于连接权jjIj2jI⋯，m），其中m为神经元个数。将网络的连接权矢量初始状态最理想的分布是其方向与各个输入模｛wij｝赋予［0，I］区间内的随机值，i=I，2，⋯，I；j=式的方向一致，因此在连接权初始化时，应该尽可能I，2，⋯，m。使其初始状态与输入模式处于一种互相容易接近的（2）竞争。竞争是按照“胜者为王（wIIeItakes状态。aII）”的原则，最终只有一个神经元获胜，并且是具有（2）关于学习率!（t）的选择和获胜邻域Nc的

8、与输入矢量最相似的连接权矢量的神经元获胜。采更新用欧氏距离作为判别函数，计算#与权向量的距离大量实验表明，SOM网络的学习率!（t）和获胜函数值，竞争规则如下：领域Nc随着时间t的增大而变化，可以使学习的效T-w（t）!=mIT-"（t）!果更好，亦即使SOM网络更好地形成自组织有序特!#