一文解析机器学习常用35大算法.doc

《一文解析机器学习常用35大算法.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、一文解析机器学习常用35大算法　　本文将带你遍历机器学习领域最受欢迎的算法系统地了解这些算法有助于进一步掌握机器学习当然，本文收录的算法并不完全，分类的方式也不唯一不过，看完这篇文章后，下次再有算法提起，你想不起它长处和用处的可能性就很低了本文还附有两张算法思维导图供学习使用　　在本文中，我将提供两种分类机器学习算法的方法一是根据学习方式分类，二是根据类似的形式或功能分类这两种方法都很有用，不过，本文将侧重后者，也就是根据类似的形式或功能分类在阅读完本文以后，你将会对监督学习中最受欢迎的机器学习算法，以及它们彼此之间的关系有一个比较深刻的了解　　事先说明一点，我没

2、有涵盖机器学习特殊子领域的算法，比如计算智能（进化算法等）、计算机视觉（CV）、自然语言处理（NLP）、推荐系统、强化学习和图模型　　下面是一张算法思维导图，点击放大查看　　一文解析机器学习常用35大算法　　本文将带你遍历机器学习领域最受欢迎的算法系统地了解这些算法有助于进一步掌握机器学习当然，本文收录的算法并不完全，分类的方式也不唯一不过，看完这篇文章后，下次再有算法提起，你想不起它长处和用处的可能性就很低了本文还附有两张算法思维导图供学习使用　　在本文中，我将提供两种分类机器学习算法的方法一是根据学习方式分类，二是根据类似的形式或功能分类这两种方法都很有用，不

3、过，本文将侧重后者，也就是根据类似的形式或功能分类在阅读完本文以后，你将会对监督学习中最受欢迎的机器学习算法，以及它们彼此之间的关系有一个比较深刻的了解　　事先说明一点，我没有涵盖机器学习特殊子领域的算法，比如计算智能（进化算法等）、计算机视觉（CV）、自然语言处理（NLP）、推荐系统、强化学习和图模型　　下面是一张算法思维导图，点击放大查看　　　　从学习方式分类　　算法对一个问题建模的方式很多，可以基于经历、环境，或者任何我们称之为输入数据的东西机器学习和人工智能的教科书通常会让你首先考虑算法能够采用什么方式学习实际上，算法能够采取的学习方式或者说学习模型只有几

4、种，下面我会一一说明对机器学习算法进行分类是很有必要的事情，因为这迫使你思考输入数据的作用以及模型准备过程，从而选择一个最适用于你手头问题的算法　　监督学习　　输入数据被称为训练数据，并且每一个都带有标签，比如“广告/非广告”，或者当时的股票价格通过训练过程建模，模型需要做出预测，如果预测出错会被修正直到模型输出准确的结果，训练过程会一直持续常用于解决的问题有分类和回归常用的算法包括逻辑回归和BP神经网络　　无监督学习　　输入数据没有标签，输出没有标准答案，就是一系列的样本无监督学习通过推断输入数据中的结构建模这可能是提取一般规律，可以是通过数学处理系统地减少冗余

5、，或者根据相似性组织数据常用于解决的问题有聚类、降维和关联规则的学习常用的算法包括Apriori算法和K均值算法　　半监督学习　　半监督学习的输入数据包含带标签和不带标签的样本半监督学习的情形是，有一个预期中的预测，但模型必须通过学习结构整理数据从而做出预测常用于解决的问题是分类和回归常用的算法是所有对无标签数据建模进行预测的算法（即无监督学习）的延伸　　从功能角度分类　　研究人员常常通过功能相似对算法进行分类例如，基于树的方法和基于神经网络的方法这种方法也是我个人认为最有用的分类方法不过，这种方法也并非完美，比如学习矢量量化（LVQ），就既可以被归为神经网络方法

6、，也可以被归为基于实例的方法此外，像回归和聚类，就既可以形容算法，也可以指代问题　　为了避免重复，本文将只在最适合的地方列举一次下面的算法和分类都不齐备，但有助于你了解整个领域大概（说明：用于分类和回归的算法带有很大的个人主观倾向；欢迎补充我遗漏的条目）　　回归算法　　回归分析是研究自变量和因变量之间关系的一种预测模型技术这些技术应用于预测时间序列模型和找到变量之间关系回归分析也是一种常用的统计学方法，经由统计机器学习融入机器学习领域“回归”既可以指算法也可以指问题，因此在指代的时候容易混淆实际上，回归就是一个过程而已常用的回归算法包括：　　普通最小二乘回归（OL

7、SR）　　线性回归　　逻辑回归　　逐步回归　　多元自适应回归样条法（MARS）　　局部估计平滑散点图（LOESS）　　基于实例的学习算法　　基于实例的学习通过训练数据的样本或事例建模，这些样本或事例也被视为建模所必需的这类模型通常会建一个样本数据库，比较新的数据和数据库里的数据，通过这种方式找到最佳匹配并做出预测换句话说，这类算法在做预测时，一般会使用相似度准则，比对待预测的样本和原始样本之间的相似度，再做出预测因此，基于实例的方法也被称之为赢家通吃的方法（winner-take-all）和基于记忆的学习（memory-basedlearning）常用的基于实例的

8、学习算法包