资源描述:
《支持向量机SVM简介.ppt》由会员上传分享,免费在线阅读,更多相关内容在PPT专区-天天文库。
1、SupportVectorMachinesfxy+1-1f(x,w,b)=sign(w.x-b)Howwouldyouclassifythisdata?线性分类器fxy+1-1f(x,w,b)=sign(w.x-b)Howwouldyouclassifythisdata?线性分类器线性分类器fxy+1-1f(x,w,b)=sign(w.x-b)Howwouldyouclassifythisdata?线性分类器fxy+1-1f(x,w,b)=sign(w.x-b)Howwouldyouclassifyt
2、hisdata?线性分类器fxy+1-1f(x,w,b)=sign(w.x-b)Anyofthesewouldbefine....butwhichisbest?线性分类器fxy+1-1f(x,w,b)=sign(w.x-b)线性分类器的间隔(margin):到超平面最近的样本与此超平面之间的距离。最大间隔fxy+1-1f(x,w,b)=sign(w.x-b)具有最大间隔的线性分类器叫做最大间隔线性分类器。其就是一种最简单的支持向量机(SVM)(称为线性支持向量机,即LSVM)线性支持向量机fxy+1-
3、1f(x,w,b)=sign(w.x-b)支持向量(SupportVectors):是那些距离超平面最近的点。具有最大间隔的线性分类器叫做最大间隔线性分类器。其就是一种最简单的支持向量机(SVM)(称为线性支持向量机,即LSVM)线性支持向量机最大间隔Why…最大间隔?+1-1f(x,w,b)=sign(w.x-b)支持向量(SupportVectors):是那些距离超平面最近的点。具有最大间隔的线性分类器叫做最大间隔线性分类器。其就是一种最简单的支持向量机(SVM)(称为线性支持向量机,即LSVM)
4、线性支持向量机直观上感觉很好.学习得到的线性分类器.其对未知样本的预测能力与分类器间隔有如下关系:具体化分类超平面及其间隔如何在数学上表示?…在m位空间中?Plus-PlaneMinus-PlaneClassifierBoundaryzone“PredictClass=+1”“PredictClass=-1”zonePlus-plane={x:w.x+b=+1}Minus-plane={x:w.x+b=-1}Classifyas..+1ifw.x+b>=1-1ifw.x+b<=-1不可分情况if-1<
5、w.x+b<1具体化分类超平面及其间隔Plus-PlaneMinus-PlaneClassifierBoundaryzone“PredictClass=+1”“PredictClass=-1”zone计算间隔Zone“PredictClass=+1”“PredictClass=-1”zonewx+b=1wx+b=0wx+b=-1M=Margin我们怎样利用w与b计算margin?Plus-plane={x:w.x+b=+1}Minus-plane={x:w.x+b=-1}注:向量w与PlusPlane
6、垂直.为什么?设u和v是PlusPlane上的两个向量.则w.(u–v)是多少?所以w也垂直于MinusPlane注:向量w与PlusPlane垂直.为什么?Zone“PredictClass=+1”“PredictClass=-1”zonewx+b=1wx+b=0wx+b=-1M=Margin我们怎样利用w与b计算margin?Plus-plane={x:w.x+b=+1}Minus-plane={x:w.x+b=-1}计算间隔Plus-plane={x:w.x+b=+1}Minus-plane={
7、x:w.x+b=-1}向量w与PlusPlane垂直设x-是minusplane上任意一点设x+是plus-plane上距离x-最近的点x-x+计算间隔Zone“PredictClass=+1”“PredictClass=-1”zonewx+b=1wx+b=0wx+b=-1M=Margin我们怎样利用w与b计算margin?Plus-plane={x:w.x+b=+1}Minus-plane={x:w.x+b=-1}向量w与PlusPlane垂直设x-是minusplane上任意一点设x+是plus-
8、plane上距离x-最近的点注:对于某实数l,x+=x-+lw.为什么?x-x+计算间隔Zone“PredictClass=+1”“PredictClass=-1”zonewx+b=1wx+b=0wx+b=-1M=Margin我们怎样利用w与b计算margin?Plus-plane={x:w.x+b=+1}Minus-plane={x:w.x+b=-1}向量w与PlusPlane垂直设x-是minusplane上任意一点设x+是plus-plane上距离