昆明理工大学 人工智能 实验二

《昆明理工大学 人工智能 实验二》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、昆明理工大学信息工程与自动化学院学生实验报告（2011—2012学年第1学期）课程名称：人工智能开课实验室：4442011年12月23日年级、专业、班计科093学号200910405310姓名孙浩川成绩实验项目名称线性回归、梯度下降指导教师王剑教师评语该同学是否了解实验原理：A.了解□B.基本了解□C.不了解□该同学的实验能力：A.强□B.中等□C.差□该同学的实验是否达到要求：A.达到□B.基本达到□C.未达到□实验报告是否规范：A.规范□B.基本规范□C.不规范□实验过程是否详细记录：A.详细□B.一般□C.没有□教师签名：年月日回归在数学上来说是给定

2、一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归。举个例子，做一个房屋价值的评估系统，一个房屋的价值来自很多地方，比如说面积、房间的数量（几室几厅）、地段、朝向等等，这些影响房屋价值的变量被称为特征(feature)，feature在机器学习中是一个很重要的概念，有很多的论文专门探讨这个东西。在此处，为了简单，假设我们的房屋就是一个变量影响的，就是房屋的面积。假设有一个房屋销售的数据如下：-6-这个表类似于帝都5环左右的房屋价钱，我们可以做出一个图，x轴是房屋的面积。y轴是房屋的售价，如

3、下：如果来了一个新的面积，假设在销售价钱的记录中没有的，我们可以用一条曲线去尽量准的拟合这些数据，然后如果有新的输入过来，我们可以在将曲线上这个点对应的值返回。如果用一条直线去拟合，可能是下面的样子：绿色的点就是我们想要预测的点。首先给出一些概念和常用的符号，在不同的机器学习书籍中可能有一定的差别。房屋销售记录表-训练集(trainingset)或者训练数据(trainingdata),是我们流程中的输入数据，一般称为x。房屋销售价钱-输出数据，一般称为y。-6-拟合的函数（或者称为假设或者模型），一般写做y=h(x)。训练数据的条目数(#training

4、set),一条训练数据是由一对输入数据和输出数据组成的。输入数据的维度(特征的个数，#features)，n。下面是一个典型的机器学习的过程，首先给出一个输入数据，算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据给出一个新的估计，也被称为构建一个模型。就如同上面的线性回归函数。用X1，X2..Xn去描述feature里面的分量，比如x1=房间的面积，x2=房间的朝向，等等，可以做出一个估计函数：θ在这儿称为参数，意思是调整feature中每个分量的影响力，就是到底是房屋的面积更重要还是房屋的地段更重要。为了如果令X0=1，就可以用

5、向量的方式来表示了：程序也需要一个机制去评估我们θ是否比较好，所以说需要对做出的h函数进行评估，一般这个函数称为损失函数（lossfunction）或者错误函数(errorfunction)，描述h函数不好的程度，在下面，称这个函数为J函数。在这儿我们可以做出下面的一个错误函数：-6-这个错误估计函数是去对x(i)的估计值与真实值y(i)差的平方和作为错误估计函数，前面乘上的1/2是为了在求导的时候，这个系数就不见了。如何调整θ以使得J(θ)取得最小值有很多方法，其中有最小二乘法(minsquare)，是一种完全是数学描述的方法，在stanford机器学习

6、开放课最后的部分会推导最小二乘法的公式的来源，这个来很多的机器学习和数学书上都可以找到，这里就不提最小二乘法，而谈谈梯度下降法。梯度下降法是按下面的流程进行的：1）首先对θ赋值，这个值可以是随机的，也可以让θ是一个全零的向量。2）2）改变θ的值，使得J(θ)按梯度下降的方向进行减少。3）为了更清楚，给出下面的图：这是一个表示参数θ与误差函数J(θ)的关系图，红色的部分是表示J(θ)有着比较高的取值，我们需要的是，能够让J(θ)的值尽量的低。也就是深蓝色的部分。θ0，θ1表示θ-6-向量的两个维度。在上面提到梯度下降法的第一步是给θ给一个初值，假设随机给的初

7、值是在图上的十字点。然后我们将θ按照梯度下降的方向进行调整，就会使得J(θ)往更低的方向进行变化，如图所示，算法的结束将是在θ下降到无法继续下降为止。当然，可能梯度下降的最终点并非是全局最小点，可能是一个局部最小点，可能是下面的情况：上面这张图就是描述的一个局部最小点，这是我们重新选择了一个初始点得到的，看来我们这个算法将会在很大的程度上被初始点的选择影响而陷入局部最小点。下面我将用一个例子描述一下梯度减少的过程，对于我们的函数J(θ)求偏导J：-6-下面是更新的过程，也就是θi会向着梯度最小的方向进行减少。θi表示更新之前的值，后面的部分表示按梯度方向减

8、少的量，α表示步长，也就是每次按照梯度减少的方向变化多少。一个很重