矩阵代数数值计算

《矩阵代数数值计算》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章矩阵代数数值计算一、矩阵的基本运算二、矩阵的三角分解三、矩阵的正交变换四、矩阵的谱分解五、IMSL中的线性系统、特征值分析模块矩阵代数运算是统计模型的基础，统计模型的所有估计几乎都是用矩阵代数运算计算出结果。例如最小二乘估计、典型相关分析、因子分析以及各类回归分析。从计算的角度来说为使计算结果可靠，我们总是先对矩阵进行三角分解，然后进行各种计算例如，矩阵的逆、求解线性方程组以及对矩阵进行谱分解等。本章首先介绍矩阵的三角分解，然后引导学习者使用IMSL和SASD中的丰富矩阵的算法，将它们拼接起来就可以解决各种矩阵的计算。5.1引言矩阵代数运算在数值计算中起着基础

2、性的作用，无论我们建立了多么复杂的数学模型，最终我们总是要把它变为矩阵代数的形式。特别是统计模型，无论是多元线性回归、广义线性模型、多元统计分析无不与矩阵代数有着密切的联系。我们所研究的对象，即样本可以看成是一个矩阵，而统计上的协方差，实际上是该矩阵的转置与该矩阵相乘形成的新矩阵的元素。而回归的最小二乘估计的算法为：（5.1.1)包含了矩阵的乘、矩阵的求逆及矩阵与向量的乘法等等。而特征值与特征向量在数理统计理都有明确的条件统计含义。因此我们将在这一章介绍矩阵运算的基本数值方法，以及如何调用IMSL和SASD中丰富的算法模块。5.2矩阵数值计算基础对于一般的二维样本，

3、我们总可以写成如下的矩阵形式。（5.2.1)从计算的角度处理矩阵问题的一个最有效的方法是，将一个一般的矩阵分解为几个简单矩阵的乘积形式。其中最便于计算的是三角矩阵，以上三角矩阵为例，由其性质，两个上三角阵的和、积仍为上三角阵，上三角阵的特征值就是其对角线元素。系数矩阵为上三角阵的线性线性方程组是最容易求解的，上三角阵的逆阵仍然是上三角阵。因此处理矩阵计算问题的关键是将一般矩阵化为三角阵和对角阵的形式，然后进行计算。5.2.1矩阵的三角—三角分解（1）L*R分解（5.2.2)其中L单位下三角阵（主对角线元素为1），R为上三角阵。（2）LDR*分解(5.2.3)其中L为

4、单位下三角阵，D为对角阵，为单位上三角阵。（3）Crout分解（5.2.4)其中为单位下三角阵，为单位上三角阵。(4)Cholesky分解（5.2.5)其中A为正定对称阵，T为上三角阵。Cholesky分解是统计计算中最常用的分解方法之一。因为我们的协方差矩阵、相关矩阵都是使用这种分解方法。5.2.2矩阵的三角分解算法以上四种分解是类似的，使用待定系数法。(1)以LR*分解为例，设其中A为正定阵，并记分解已为以下形式：=利用矩阵相对应元素相等的事实，我们立即得到现在我们可以计算矩阵L的第一列由第二行，第二列相等,以及用前面的计算结果我们有：矩阵R*的第二行矩阵L的第

5、二列即有以下公式：从而我们可以推出一般的计算公式：（2）Cholesky分解算法同样，利用待定系数法以及矩阵A的正定对称性，我们有：我们可以推导出Cholesky三角分解得算法：为保证除法运算时，我们由以下定理定理5.2.1当A为对称正定阵时，A的Cholesky分解必存在，并且当限定T的对角元素为正时，其分解是唯一的。有了矩阵三角—三角分解后，各种矩阵的求解就十分方便了。例如：求解线性方程组对A作LR分解，有，则解方程变换为解5.2.3矩阵的正交变换我们从另一个角度来考虑LR分解，由前面的结论我们有此表达式可以了解为对A线性变换后变成了三角阵R，其中为变换阵。问题

6、是我们能否用更为简单的一系列变换将A变为上三角阵。（1）矩阵的正交—三角分解矩阵的正交分解可以写成以下形式其中Q是正交矩阵，即，R是上三角矩阵，从而我们有(5.2.6)这种变换在矩阵的运算中是非常重要的。以下我们将分解为一系列较为简单的正交变换。（2）Householder变换为产生尽量简单的正交变换，我们考虑以下形式的正交方阵(5.2.7)这里In是单位矩阵，u为n维向量，为正实数。具有这种形式的正交变换称为H型变换，我们可以通过以下步骤将矩阵A变换为上三角阵R，先用H型变换将A的第一列变量变为：再用H型变换将A的第二列变为：第i步有为实现这一过程，我们先考虑以下

7、简单问题。设我们要求一个H型正交矩阵Hi，使得后n-I个元素为0，其中为常数，为使后n-i个元素为0，可以取这里称此为由向量定义的Householder变换，并有性质。1）2）Hi是正交的3）（3）Gives变换Gives变换具有以下性质：第j列第i列Gives变换具有以下性质：1）是正交矩阵2）用左乘，结果只改变A的第i行第j行元素。用左乘，结果只改变A的第i行第j行元素。3）对向量这里5.2.4矩阵的谱分解前面的方法是用正交变换方法将矩阵A变为三角阵，以下我们用同样的方法将A变换为对角矩阵。（1）对称矩阵的谱分解设是n阶方阵，以下分解式称为A的谱分解式，或称