最新决策树方法在数据挖掘中的应用教学讲义PPT.ppt

《最新决策树方法在数据挖掘中的应用教学讲义PPT.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、决策树方法在数据挖掘中的应用1KnowledgeSEEKER简介KnowledgeSEEKER是一个由Angoss公司开发的基于决策树的数据分析程序。该程序具有相当完整的分类树分析功能。KnowledgeSEEKER采用了两种著名的决策树分析算法：CHAID和CART算法。CHAID算法可以用来对于分类性数据进行挖掘。CART算法则可以对连续型因变量进行处理。Angoss公司在增强这些算法的用户友好性方面作了大量的工作。优点：响应快，模型，文档易于理解，决策树分析直观，性能良好缺点：决策树不能编辑打印，缺乏数据预处理阶段的函数，没有示例代

2、码1KnowledgeSEEKER简介应用行业案例：FrostNational银行CRM收益率、客户满意度、产品功效SASI公司利用其开发行业数据挖掘应用软件（零售行业）Montreal银行客户分片、越区销售模型、市场站的准备、抵押支付的预测、信用风险的分析3定义研究对象2、启动3定义研究对象3、设置因变量一开始，字段Hypertension就已经被自动设置为因变量。稍后，还将改变因变量的设置。打开bpress数据集之后将出现如图所示的屏幕。3定义研究对象图中的根结点对应的是因变量。在根节点中血压已经分别被分为3类：偏低、正常和偏高。我们

3、现在要了解的是血压偏低、正常和偏高的人都分别具有哪些特征。从图中可以看出：研究对象中有18%的人（即66个人）血压偏低研究对象中有60%的人（即217个人）血压正常研究对象中有21%的人（即77个人）血压偏高4建立模型目前KnowledgeSEEKER已经构造出模型树的下一层分支。当然，模型树还可以自动生成出多层分支。图中的模型树的下一层分支表明上一层的双亲节点是按年龄（age）进行分叉的。年龄只是影响血压的一个变量，但是在目前这个例子中，年龄似乎是导致一个人的血压是否偏高的最重要因素。如图所示，研究对象按年龄分为以下3组：32~50岁，

4、51~62岁，63~73岁它们分别对应于模型树的三个叶节点。此外，还可以用除Age以外的其他字段为模型树创建新的叶节点。在模型树上通过指定其它字段以创建新的叶节点称为分叉。对于当前这个数据集，系统会自动发现12个分叉。5理解模型1）观察其分叉观察其分叉将使我们可以看到除年龄以外对血压还有影响的其他重要变量的作用。KnowledgeSEEKER可以计算出所有变量对血压影响的大小并将使它们按顺序排列起来。用另一个变量直接在根节点下面构造叶节点即可进入模型树的另一个分叉。这样，我们就可以很容易地观察到其他数据元素对血压的影响。对于自动生成的每一

5、个分叉所作的概述将为我们考虑下一步的研究方向提供有益的线索。很明显，所获得的信息中有一些符合我们的预先估计；然而，我们从数据集中也发现了一些预先没有估计到的结果，如人的身高与其高血压之间的关系就是我们预先没有估计到的。5理解模型2）进入特定分叉3）扩展模型树以smoking为分叉变量构造的模型树目前还只有一层。我们可以对这棵模型树作进一步扩展。在模型树的第二层中选择经常吸烟者相对应的节点，然后，在Grow下拉菜单中选择FindSplit，即可以看到如图所示的屏幕。5理解模型KnowledgeSEEKER发现对于描述经常吸烟者特征最为有效的

6、分组变量就是年龄。也就是说，对于经常吸烟的人而言，年龄将是确定其是否患高血压的最关键的指标，数据表明年龄在63~73岁之间经常吸烟的人当中有56.7%患有高血压，而年龄在32~51岁之间且经常吸烟的人当中患有高血压的比例仅为4.8%。为进一步描述经常吸烟者的特征，KnowledgeSEEKER总共发现了6个分叉变量，分别是Age，Height，PorkLastWeek，DrinkPattern，Gender以及SaltConsumption。其中以年龄最为有效。5理解模型4）强制分叉有时我们还想观察一下那些没有自动发现的变量的作用。例如，

7、我们可能想知道PoultryLastWeek对人们患有高血压有什么影响。为此，我们可以在模型树上作强制分叉。5理解模型5）对模型进行验证当我们从一个数据集中发现某些结果之后，总是希望能够用另外一个数据集再对其进行验证。Angoss将那些用于验证的数据集又称为测试分区（TestPartition）。KnowledgeSEEKER允许我们用另一个数据集（即测试分区）对新发现的结果进行验证。5理解模型6）重新定义挖掘对象假如我们想要改变所研究的内容（例如，想要研究饮酒数量不同的人之间的差别），那么就需要重新定义研究对象。改变模型树的根节点为Dr

8、inkPattern，即新的模型树的根节点对应的因变量为DrinkPattern，其中可以含有下列值：Regular（经常饮酒）Occasional（偶然饮酒）Former（以前曾经饮酒）Ne