机器学习中的数学第5课线性代数初步

《机器学习中的数学第5课线性代数初步》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、机器学习中的数学第5课：线性代数初步管枫七月在线June,2016........................................管枫机器学习中的数学第5课：线性代数初步主要内容线性空间与基–举例说明线性空间的基本概念线性映射与矩阵–什么是矩阵？–矩阵作为线性映射的代数表达方式–线性方程的几何意义线性回归–线性回归作为方程求解问题–线性回归作为几何逼近问题–最小二乘法相似不变量........................................管枫机器学习中的数学第5课：线性代数初步记号本节课常用数学记号V;W向量空间v;w向量Rn,Rm实坐标空间,V和

2、W的基T:V!W向量空间V到W的线性映射A;(T)线性映射T在和这两组基下的矩阵G(v1;v2)内积空间V上的内积HG在基下的矩阵形式........................................管枫机器学习中的数学第5课：线性代数初步线性空间与基实系数线性空间是一个由向量组成的集合,向量之间可以做加减法,向量与实数之间可以做乘法,而且这些加，减，乘运算要求满足常见的交换律和结合律.我们也可以类似地定义其他系数的线性空间.Example(线性空间)有原点的平面。–如果平面有一个原点O,那么平面上任何一个点P,都对应!着一个向量OP。–这些向量以及他们的运算

3、结构放在一起，就组成一个向量空间。原点O在空间中引入了线性结构。（向量之间的加法，以及向量与实数的乘法）........................................管枫机器学习中的数学第5课：线性代数初步线性空间与基基是线性空间里的一组向量，使得任何一个向量都可以唯一的表示成这组基的线性组合.Example(坐标空间)!!有原点的平面，加上一组基fX;Yg。!!!!–任何一个向量OP,都可以唯一表达成OP=aX+bY的形式。–(a;b)就是P点的坐标。基给出了定量描述线性结构的方法－－坐标系。...........................

4、.............管枫机器学习中的数学第5课：线性代数初步线性空间与基Example(坐标系的选择)考虑纽约中城区的地图。街道用数字编号，但不是正南正北。在这个地图上以中心为原点，如何选取基？基的选择取决于要解决的问题。没有十全十美的基，只有适合解决问题的基。........................................管枫机器学习中的数学第5课：线性代数初步........................................管枫机器学习中的数学第5课：线性代数初步线性空间与基小结(线性空间与基)线性空间是一种结构(加法及乘法运算结构)基使得我

5、们可以用坐标描述线性结构基的选择取决于要研究的问题........................................管枫机器学习中的数学第5课：线性代数初步线性映射与矩阵Definition(线性映射)V和W是两个实线性空间，T:V!W如果满足如下条件就是一个线性映射。(i)T(v1+v2)=T(v1)+T(v2);8v1;v22V(ii)T(v)=T(v);82R;v2V线性映射的本质就是保持线性结构的映射到自身的线性映射T:V!V叫做线性变换........................................管枫机器学习中的数学第5课：线性代数初

6、步线性映射与矩阵线性变换的矩阵描述V;W分别为n;m维的线性空间，=f1;:::;ng;=f1;:::;mg分别为V;W的一组基。T:V!W是一个线性映射。于是T;;唯一决定一个矩阵A;(T)=[Aij]mn,使得∑mT(j)=Aiji;8j21;:::;n(1)i=1(1)等价于T(1;:::;n)=(1;:::;m)
A;(T)(2)简记为T()=
A;(T)...............(3).........................管枫机器学习中的数学第5课：线性代数初步.................................

7、.......管枫机器学习中的数学第5课：线性代数初步线性映射与矩阵如果我们选取V;W的另外一组基，~=
P,~=
Q.那么存在矩阵A(T)使得,;~~T(~)=~
A(T);~~两边分别代入~与~得到,T()
P=T(
P)=
Q
A(T);~~与(3)比较我们得到矩阵变换公式:Q
A(T)
P1=A(T)(4);~~;........................................管枫机器学习中的数学第5课：线性代数初步.......