大数据十大经典算法svm 讲解ppt教育课件

《大数据十大经典算法svm 讲解ppt教育课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、数据挖掘十大算法之SVM小组成员：杨凌云、徐小江、刘洁刘家旺、吕佳艳、伍俊2013年10月虾替矿说己释位豁庸病忿跑痰归债讯馁嫁吓土卤煽逮壮坊港舆棘台氨甚化大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT分类概念：通过构造一个分类函数或分类器的方法，该方法能把数据库中的数据项映射到给定类别中的某一个，从而可以用于预测未知数据。数据：线性可分线性不可分辽寨周靶陪泞岸匿工寝盏掘怀浙菊讨油余差拐轰潮导聪平召架沟敞议司蝶大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT什么是SVM全名：SupportVectorMachine（支持向量机）支持向量：支持或支撑平面

2、上把两类类别划分开来的超平面的向量点。机：一个算法基于统计学习理论的一种机器学习方法。简单的说，就是将数据单元表示在多维空间中，然后对这个空间做划分的算法。做翟金是校看幢汀呈锭全焊灌赛痔寅黔钒墩躲梢霞耿歹今斯锭紧腆歼光吕大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPTSVM的特点SVM是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性之间寻求最佳折衷，以期获得最好的推广能力（或泛化能力）。核函数松弛变量端升自岩菏俩贱暗柒泉县闲匣良盒馒程搓楷蚤爱奏筛氰药吃陈抛尸枫翟婚大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PP

3、T线性分类1淄梆逊阉橡齿权佑提涟厉义栽垂圆赏业铜瑰遮狠味忽肿罐笆传晶杉栈粗刨大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT线性分类1岗闻炬键晤澡钝隆窃肮烦捐疫鸣陷冕串斑抵感饯思坟樱痒酥乒馈骸赔好冬大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT线性分类椒散请摇窖辕摩乒嗡丑征雕廷拉毖裹艺蛀阵力册攻胶贸梁侦唤非措回挎猪大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT问题1.如何求得最优的g(x)？2.最优的标准是什么？3.g(x)=wx+b中的w和b如何确定？葫畸促剪堡懈栓奶牡碎巧苏空爷秋司躺吻忠仇芝戏明蹋猴舶渤革规窃委疾大数据十大经

4、典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT最优标准：分类间隔数据表示Di=(xi,yi)分类间隔即两分类之间的距离——越远越不易混淆定义δi=(1/

5、

6、w

7、

8、)

9、g(xi)

10、，称为几何间隔

11、

12、w

13、

14、叫做向量w的范数,WX的p范数为

15、

16、w

17、

18、p=(X1^p+X2^p+...+Xn^p）^(1/p)拘鸥极摸答性侍乘杨隅涎貉根斗衷畴拓狱客贪涧贝苦逢尸眺赫鲤耿泵崭弊大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT最优标准：分类间隔H2与H之间的间隔便是几何间隔。其中H1：+b=1；H2：+b=-1；几何间隔与样本的误分次数间的关系：误分次数<=(

19、2R/δ)^2，其中δ是样本集合到分类面的间隔，R=max

20、

21、xi

22、

23、,i=1,...,n;所以问题转化成为求最大δ值。危效谦猜翠楞娄涤闻秋寻牟筏湍亮俯碧谅耀赣猜性点颈有日蚀拓嫩釉酷砧大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT因为w是超平面的法向量，所以w实际上只由在H1平面上的样本点确定；在H1上的向量则叫做SupportedVectors，因为它们“撑”起了分界线。求最大的δ木盛乳兽伐瓮近碧试镊瓦令恬腋皋睹力憋甭篇邀聚梁挂巧语贰别羽艰郧烈大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT于是问题便转化成了求很容易看出当

24、

25、w

26、

27、=0的时候就得到

28、了目标函数的最小值。反映在图中，就是H1与H2两条直线间的距离无限大，所有样本点都进入了无法分类的灰色地带解决方法：加一个约束条件求最大的δ忧布粘澜啄抽混渴壤赎慰啡按殖察飞酿停跟扰白央展屁埋底娃沃管轰苟钩大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT我们把所有样本点中间隔最小的那一点的间隔定为1，也就意味着集合中的其他点间隔都不会小于1，于是不难得到有不等式：yi[+b]≥1(i=1,2,…,l)总成立。于是上面的问题便转化成了求条件最优化问题：约束条件篙顾猜惯突喜门描黍统寿蓑嘲献梭店捷腔蔼蔼任烟又仇敌材氓炮帜觉戚醉大数据十大经典算法SVM讲解PPT大数据十

29、大经典算法SVM讲解PPT这是一个凸二次规划问题，所以一定会存在全局的最优解，但实际求解较为麻烦。实际的做法：将不等式约束转化为等式约束，从而将问题转化为拉格朗日求极值的问题。最优问题的求解叠绎谐握臆前蔚孜锄涟虚患贷杰瞳劈摸襟谭冰涡尿旅益框雄割泵讨宛耀墟大数据十大经典算法SVM讲解PPT大数据十大经典算法SVM讲解PPT引入拉格朗日对偶变量a，w可表示为：w=a1y1x1+a2y2x2+…+anynxn；利用