一类新型的光滑支持向量分类机.pdf

《一类新型的光滑支持向量分类机.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、２０１５年６月西北工业大学学报Ｊｕｎｅ２０１５第３３卷第３期ＪｏｕｒｎａｌｏｆＮｏｒｔｈｗｅｓｔｅｒｎＰｏｌｙｔｅｃｈｎｉｃａｌＵｎｉｖｅｒｓｉｔｙＶｏｌ．３３Ｎｏ．３一类新型的光滑支持向量分类机范旭慧，张捷，马化斌（西北工业大学电子信息学院，陕西西安７１００７２）摘要：为了解决支持向量机中非光滑问题，基于贝塞尔函数提出一范式的贝塞尔光滑支持向量机模型，并证明了贝塞尔函数的光滑性和收敛性，分析了其对正号函数的逼进性能。根据模型的特点，应用Ａｒｍｉｊｏ⁃Ｎｅｗｔｏｎ方法进行求解，理论分析和数值实验结果都证明贝塞尔光滑支持向量机在分类性能上优于以往提出来的光滑模型。关键词：算法；分类（信息）；分

2、类器；控制；数据挖掘；实验；函数；数学模型；ＭＡＴＬＡＢ；优化；模式识别；支持向量机；贝塞尔函数；控制点；光滑技术中图分类号：ＴＰ３９１．４文献标志码：Ａ文章编号：１０００⁃２７５８（２０１５）０３⁃０４６７⁃０５基于统计学习理论的支持向量ＳＶＭ（ｓｕｐｐｏｒｔæ１１ö（ｉ＝１，２，３，…，ｎ－２），ｐ＝ç，÷，则贝塞尔曲ｎ－１ｖｅｃｔｏｒｍａｃｈｉｎｅ）比其他方法有更好的分类性能和效èｋｋø［１⁃４］线变为Ｂ（ｔ）＝ｐ（１－ｔ）ｎ－１＋ｐｔｎ－１，ｔ∈［０，１］，将率，并且它已成功应用于模式识别和回归问题。０ｎ－１基于支持向量机的这些优点，许多研究者致力于１ｐ，ｐ，ｐ，…，ｐ代入Ｂ（ｔ）中

3、得到Ｂ（ｔ）＝－０１２ｎ－１ｘｋＳＶＭ的研究并取得了很大的进步。２００１年，由Ｌｅｅ１１等人针对数学规划问题中的不光滑问题提出（１－ｔ）ｎ－１＋ｔｎ－１，ｔ∈（０，１），Ｂ（ｔ）＝ｔｎ－１，ｔ∈ｙ［５］ｋｋＳｉｇｍｏｄ光滑函数。２００５年，袁玉波等人也提出了（０，１），消去ｔ，得到贝塞尔函数公式Ｂ（ｘ，ｋ）。显而［６］２个多项式光滑函数得到了ＰＳＳＶＭ模型。２００７æ１１ö年袁玉波等人又提出了三次样条插值函数得到了易见，Ｂ（ｘ，ｋ）在ｘ∈ç－，÷区间单调递增。因èｋｋø［１０］ＴＳＳＶＭ模型。由于它们对加号函数的逼近性能［８］此贝塞尔函数存在逆函数。所以在实数空间中还有待提高。因此本文提出了

4、贝塞尔光滑模型，理我们可以选择用逆函数来替换原函数。论分析和数值实验都证明它在数据分类的性能和效贝塞尔函数的逆函数推导过程如下：率上优于ＴＳＳＶＭ和ＰＳＳＶＭ模型。æ１ö先给定３个点ｐ＝ç－，０÷，ｐ＝（０，０），ｐ＝０１２èｋø１贝塞尔光滑支持向量机模型æ１１öç，÷，利用其插值，我们可以得到二次方贝塞尔èｋｋø－１曲线和它相应的逆函数Ｂ（ｘ，ｋ）＝ｘ－１?１贝塞尔函数２２贝塞尔曲线是通过插值的方法获得的。给定点（ｋｘ－１）。类似的通过插值４个点ｐ＝０ｐ，ｐ，ｐ，…，ｐ，则贝塞尔曲线为ｋ０１２ｎ－１ｎ－１æ１öæ１１öＢ（ｔ）＝∑ｃｉｐ（１－ｔ）ｎ－１－ｉｔｉ，ｔ∈（０，１）ç－，０÷，ｐ

5、１＝ｐ２＝（０，０），ｐ３＝ç，÷，得到三次ｎ－１ｉèｋøèｋｋøｉ＝０－１方贝塞尔曲线和其相应的逆函数Ｂ（ｘ，ｋ）＝ｘ＋æ１ö３式中，ｔ为参数。现设定ｐ＝ç－，０÷，ｐ＝（０，０），０ｉèｋø收稿日期：２０１４⁃０９⁃２５作者简介：范旭慧（１９８９—），女，西北工业大学硕士研究生，主要从事模式识别及机器学习研究。·４６８·西北工业大学学报第３３卷３３（ｋｘ－１）数越高，其对加号函数的逼近性能就越好。下面以。以此类推，通过插值ｎ个点ｋ四阶贝塞尔函数为例，分别从理论分析和实验仿真æ１ö证明贝塞尔函数性能的优越性。ｐç－，０÷，ｐ＝（０，０），（ｉ＝１，２，３，…，ｎ－２），ｐ０ｉｎ－１èｋø为

6、便于比较贝塞尔函数与其他光滑函数对正号æ１１ö函数的逼近精度，我们给出如下的定理：＝ç，÷，得到ｎ－１阶贝塞尔曲线和其相应的逆èｋｋø定理１对于任意ｋ，贝塞尔函数Ｂ（ｘ，ｋ）在ｎ－１ｎ－１ｎ－１－１ｎ（ｋｘ－１）１函数Ｂ（ｘ，ｋ）＝ｘ＋（－１）。插值节点ｘ＝±，ｘ＝０关于ｘ具有ｎ－１阶光滑性。ｎ－１ｋｋ１?２新光滑支持向量机模型证明过程见附录。＋考虑如下的分类问题：在ｎ维实空间中将ｍ个定理２对于ｘ∈Ω，ｋ∈Ｒ，Ｂ３（ｘ，ｋ）定义为点分类，矩阵Ａｍ×ｎ的每一行向量代表一个点。如三阶贝塞尔函数，Ｂ４（ｘ，ｋ）定义为四阶贝塞尔函数，＋－果Ａｉ属于Ａ，标记为１，如果Ａｉ属于Ａ，则标记为－ｘ＋定义为正

7、号函数，则对于任意的ｘ，ｋ，有下面的１，那么分类情况可以用一个ｍ×ｍ的对角矩阵Ｄ来结论：示，其中Ｄ的对角线元素为１或－１。则这个问题的１）Ｂｎ－１（ｘ，ｋ）≥ｘ＋［９］标准向量机模型为：对任意ｖ＞００．０２３５７２２２２）Ｂ３（ｘ，ｋ）－ｘ＋≤２，Ｂ４（ｘ，ｋ）－ｘ＋≤１ｋ２Ｔｍｉｎ‖ω‖＋ｖｅｙ２ω，γ，ｙ２０．０２２３（４）ｓ．ｔ．Ｄ（Ａω－ｅγ）＋ｙ－ｅ≥０，ｙ≥０（１）２ｋ式中，ω是边界面的法向量，γ