k近邻算法以及实例

《k近邻算法以及实例》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、【机器学习】k-近邻算法以及算法实例时间 2015-01-2614:31:00  博客园-原创精华区原文  http://www.cnblogs.com/jtianwen2014/p/4249003.html主题 算法 数据挖掘机器学习中常常要用到分类算法，在诸多的分类算法中有一种算法名为k-近邻算法，也称为kNN算法。一、kNN算法的工作原理二、适用情况三、算法实例及讲解---1.收集数据---2.准备数据---3.设计算法分析数据---4.测试算法一、kNN算法的工作原理官方解释：存在一个样本数据集，也称

2、作训练样本集，并且样本中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系，输入没有标签的新数据后，将新数据的每个特征与样本集中的数据对应的特征进行比较，然后算法提取样本集中特征最相似的数据（最近邻）的分类标签。一般来说，我们只选择样本集中前k个最相似的数据，这就是k-近邻算法中k的出处，通常k是不大于20的整数，最后，选择k个最相似的数据中出现次数最多的分类，作为新数据的分类。我的理解：k-近邻算法就是根据“新数据的分类取决于它的邻居”进行的，比如邻居中大多数都是退伍军人，那么这个人也极有可

3、能是退伍军人。而算法的目的就是先找出它的邻居，然后分析这几位邻居大多数的分类，极有可能就是它本省的分类。二、适用情况优点：精度高，对异常数据不敏感（你的类别是由邻居中的大多数决定的，一个异常邻居并不能影响太大），无数据输入假定；缺点：计算发杂度高（需要计算新的数据点与样本集中每个数据的“距离”，以判断是否是前k个邻居），空间复杂度高（巨大的矩阵）；适用数据范围：数值型（目标变量可以从无限的数值集合中取值）和标称型（目标变量只有在有限目标集中取值）。三、算法实例及讲解例子中的案例摘《机器学习实战》一书中的，代码

4、例子是用python编写的（需要matplotlib和numpy库），不过重在算法，只要算法明白了，用其他语言都是可以写出来的：海伦一直使用在线约会网站寻找合适自己的约会对象。尽管约会网站会推荐不同的人选，但她没有从中找到喜欢的人。经过一番总结，她发现曾交往过三种类型的人：1.不喜欢的人（ 以下简称1 ）；2.魅力一般的人（ 以下简称2 ）；3.极具魅力的人（以下简称3 ） 尽管发现了上述规律，但海伦依然无法将约会网站推荐的匹配对象归入恰当的分类。她觉得可以在周一到周五约会哪些魅力一般的人，而周末则更喜欢与那

5、些极具魅力的人为伴。海伦希望我们的分类软件可以更好的帮助她将匹配对象划分到确切的分类中。此外海伦还收集了一些约会网站未曾记录的数据信息，她认为这些数据更有助于匹配对象的归类。我们先提取一下这个案例的目标：根据一些数据信息，对指定人选进行分类（1或2或3）。为了使用kNN算法达到这个目标，我们需要哪些信息？前面提到过，就是需要样本数据，仔细阅读我们发现，这些样本数据就是“ 海伦还收集了一些约会网站未曾记录的数据信息 ”。好的，下面我们就开始吧！ ----1.收集数据海伦收集的数据是记录一个人的三个特征：每年获得

6、的飞行常客里程数；玩视频游戏所消耗的时间百分比；每周消费的冰淇淋公升数。数据是txt格式文件，如下图，前三列依次是三个特征，第四列是分类（1：不喜欢的人，2：魅力一般的人，3：极具魅力的人），每一行代表一个人。数据文档的下载链接是：http://pan.baidu.com/s/1jG7n4hS---- 2.准备数据何为准备数据？之前收集到了数据，放到了txt格式的文档中了，看起来也比较规整，但是计算机并不认识啊。计算机需要从txt文档中读取数据，并把数据进行格式化，也就是说存到矩阵中，用矩阵来承装这些数据，这

7、样才能使用计算机处理。需要两个矩阵：一个承装三个特征数据，一个承装对应的分类。于是，我们定义一个函数，函数的输入时数据文档（txt格式），输出为两个矩阵。代码如下：1deffile2matrix(filename):2fr=open(filename)3numberOfLines=len(fr.readlines())4returnMat=zeros((numberOfLines,3))5classLabelVector=[]6fr=open(filename)7index=08forlineinfr.rea

8、dlines():9line=line.strip()10listFromLine=line.split('t')11returnMat[index,:]=listFromLine[0:3]12classLabelVector.append(int(listFromLine[-1]))13index+=114returnreturnMat,classLabelVector简要解读代码：首先打开文件