《概念学习》PPT课件

《《概念学习》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第2章概念学习和一般到特殊序1主要内容概念学习简介FIND-S算法变型空间和候选消除算法归纳偏置2概念学习简介YesChangeCoolStrongHighWarmSunny4NoChangeWarmStrongHighColdRainy3YesSameWarmStrongHighWarmSunny2YesSameWarmStrongNormalWarmSunny1EnjoySportForecastWaterWindHumidityAirTempSkyExample表2-1目标概念EnjoySport的训练样例

2、任务目的:基于某天的各属性，预测EnjoySport的值3>概念学习问题的定义概念学习是指从有关某个布尔函数的输入输出训练样例中推断出该布尔函数。概念学习也可以看作是一个搜索问题的过程，它在预定义的假设空间中搜索假设，使其与训练样例有最佳的拟合度。4一个简单的形式，实例的各属性约束的合取式。每个约束对应一个属性可取值范围，可以为：？－任意本属性可接受的值特定值－明确指定的属性值－不接受任何值<,,,,,>>表示假设的形式5概念学习任务已

3、知实例集X，每个实例x由属性描述，每个属性的取值范围已确定假设集H，每个假设h描述为各个属性的值约束的合取，约束可以为“？”，“”或一特定值目标概念c：一个布尔函数，变量为实例训练样例集D，目标函数（或目标概念）的正例和反例。经常可以用序偶来描述训练样例，表示其包含了实例x以及它的目标概念值c(x)。求解H中的一假设h，使对于X中任意x，h(x)=c(x)>术语定义6>归纳学习假设归纳学习假设：任一假设如果在足够大的训练样例集中很好地逼近目标函数，它也能在未见实例中很好地逼近目标函数。训练样例与

4、测试样例分布一致7>作为搜索的概念学习如假设采取各属性约束的合取式，对具有n个二值属性的实例集，可能的假设有？如果假设采取其他形式呢？概念学习可以看作一个搜索的过程搜索范围：假设的表示所隐含定义的整个空间搜索目标：能够最好地拟合训练样例的假设当假设的表示形式选定后，那么就隐含地为学习算法确定了所有假设的空间搜索策略依赖于搜索空间的结构8考虑假设：h1=，h2=如果任何被h1划分为正例的实例都会被h2划分为正例，我们说h2比h1更一般。关

5、系“更一般”的精确定义：令hj和hk是在X上定义的布尔函数，称hj比hk更一般，当且仅当(xX)[(hk(x)=1)(hj(x)=1)]，记为hjmore_general_than_or_equal_tohk，或hjghk假设的一般到特殊序许多概念学习算法中，搜索假设空间的方法依赖于一种针对任何概念学习都很有效的结构：假设的一般到特殊序。9偏序的特点（区别于全序），全序上的搜索可以是二分法，偏序的搜索比无序简单，比全序复杂。偏序关系的定义与目标概念无关10Find-S：寻找极大特殊假设使用more_gen

6、eral_than偏序的搜索算法:从H中最特殊假设开始，然后在假设覆盖正例失败时将其一般化表2-3Find-S算法将h初始化为H中最特殊假设对每个正例x对h的每个属性约束ai如果x满足ai那么不做任何处理否则将h中ai替换为x满足的另一个更一般约束输出假设h11ExampleSizeColorShapeClass1smallredcirclepositive2bigredcirclepositive3smallredtrianglenegative4bigbluecirclenegativeh=<∅,∅,∅>En

7、counteraspositiveh=Encounteraspositiveh=Checktoensureconsistencywithanynegativeexamples:Negative:√Negative:√>Find-S算法实例112>Find-S算法实例213>CommentsonFind-SFor

8、conjunctivefeaturevectors,themostspecifichypothesisthatcoversasetofpositivesisuniqueandfoundbyFIND-S.Ifthemostspecifichypothesisconsistentwiththepositivesisinconsistentwithanegativetraini