用lsqr迭代法求解线性方程组(附件)【字数：6540】
摘 要摘 要 LSQR算法，一种适用于求解问题和最小二乘问题min的迭代法。其中A是大型稀疏矩阵。LSQR是在卢布等提出的双对角化程序的基础上演化而来。它在数值上的分析方法与标准的共轭梯度法基本一致，但是相对的，LSQR却有更有利的数值属性。 本论文是讨论，即是线性方程组的解法。线性方程组的解法大致可分为直接法和迭代法，先介绍了直接法，再通过介绍迭代法来引出LSQR迭代法, 深入研究LSQR迭代法，由浅入深，先介绍了LSQR的性质,应用，原理，方法等，突出其优点，而后，其中的重点则是介绍LSQR用来求解的算法，双对角化过程则是其中的重中之重。通过深入研究LSQR后，利用数值实验例子来验证LSQR对比其他方法的可靠性，最终得出结论，LSQR对于大型病态的最小二乘问题的解法是相对有效的。关键词线性方程组；直接法；迭代法；LSQR迭代法；最小二乘
目录
第一章 绪论 1
第二章 线性方程组 2
2.1 线性方程组的直接解法 3
2.2 线性方程组的迭代法 4
2.2.1 雅克比迭代法 4
2.2.2 高斯—赛德尔迭代法 5
第三章 超定方程组的最小二乘解 7
3.1 超定方程组的最小二乘解 7
第四章 LSQR迭代法的研究 10
4.1 Lanczos 迭代过程 10
4.2 Lanczos 迭代矩阵双对角化 12
4.3 LSQR与最小二乘 15
第五章 数值实验 18
结 语 22
致 谢 23
参考文献 24
第一章 绪论
LSQR算法在求解线性系统的时候用QR分解，所以又称其为最小二乘QR分解算法。该算法是共轭梯度法的一个变型，该方法不仅对数据误差有明显的抗干扰能力，同时求线性方程组解的收敛速度也比较快。由于它的优势是计算稳定，收敛的速度较快，因而它非常适用于于求解大型稀疏系数矩阵。但是对于一些病态方程，当其初始误差较大时，就会有速度慢、甚至更有不收敛等情况的出现 *好棒文|www.hbsrm.com +Q: @351916072@
，就这时就应该用有效的解法，即正则化法来将迭代法重新构造，就相当于在线性系统中加上阻尼系数，改善矩阵的病态性。
LSQR算法是Paige和Sanders在1982年提出的最小二乘法和线性系统的方法，适用于解决大型稀疏线性方程组，并且，再相比较其他方法，LSQR算法的求解量较小，能够使用简化来计算或求解大型稀疏线性方程组，其有效性是毋庸置疑的。
LSQR算法的优点是占有用的存储空间少，运算速度较快，特别适用于求解系数为大型稀疏矩阵的方程组，和其他的迭代方程组相比较下，在求解奇异或者病态的问题时，LSQR能够显示其更快的收敛性以及更好地可接受的结果。
LSQR算法是一种特别适用于求解大型稀疏矩阵的迭代算法，在数学上就相当于共轭梯度法。
第二章 线性方程组
线性方程组即线性系统的求解问题是一个探究很久的数学问题，早在中国古代的《九章算术》中，就已经详尽的描写了线性系统的消元法。而到了19世纪初，西方也有Gauss消去法。但是求解多未知数的线性方程组则是在20世纪中叶，计算机问世以后才得以求解出来。
线性方程组的求解的数值方法有很多种，但是一般可分为直接法和迭代法两种。直接法是在没有舍入误差的情况下，经过了有限次的运算来求得方程组的精确的解法。为此，直接法又可称为精确法。而迭代法则是采用逐次逼近的解法，就是从一个初始向量出发，按照一定量的计算，构造出一个向量的无穷序列，其极限是其方程组的精确解，若是只经过有限次运算是得不到其精确解的，只能获得近似解。
2.1线性方程组的直接解法
高斯消去法是很早以前提出的一种求解线性系统的方法，其最早出现在公元前250年前，数学家就有研究此方法的应用，可见其悠久。高斯消去法的基础是以行初等变化为主，而后通过改进和变化等一系列的进化，变成了计算机算法。其中高斯消去法又有两种分支的出现，即高斯选主元消去法以及三角分解法。
高斯消去法是目前求解中小规模线性方程组（即阶数不能太高，例如：小于等于1000）常用的方法，一般是用在稠密的系数矩阵（矩阵的绝大多数元素为非零）且没有任何特殊结构的线性方程组。若系数矩阵存在特殊形式，为了尽可能减少计算量和储存量，就需要采取特别的方法来求解。
高斯消去法的核心思想是采用初等行变换，改变其系数矩阵，并且化为较为简单的矩阵或者线性系统，也就是将线性方程组进行一些变换来使其简单化，例如，左变换等，化为上三角矩阵，接着转变为简单的线性方程组，然后再进行将公式回代求解，最近进行求解。
高斯消去法的基本步骤：先进行消元计算，然后再回代求解。
算法公式：
消元公式：有，如果，取消元因子，
，
对公式进行回代：如果，
。
2.2 线性方程组的迭代法
迭代法是按照规则构造一个向量序列，使它的极限向量是方程组的精确解。一个方法的有效性要看得到的近似解的精确程度，对其付出的代价如何。一般以运算量和存储量要求为标准。在这个标准下，直接法在很多方程组中会比迭代法有效，但是对于大型的稀疏方程组，迭代法会更加适用。
2.2.1 雅克比迭代法
雅可比迭代法
在阶线性方程组中，是非奇异性的矩阵，。在线性方程组中第个方程可以呈现为可以把它改变成为和它一样的等价值的线性方程组
取任意的初始向量，在上式的计算中我们可以得出一个迭代序列，若是要满足，（为精度），终止计算的话，那么就是满足了的近似解。
雅可比迭代法性质
将线性方程组的系数矩阵分成，若
则出现，相当于
并且接着出现，以为对角元的对角阵，所以
，
若是记为则当中的
因此，Jacobi迭代公式的矩阵形为，中则被称作是Jacobi迭代矩阵，。
2.2.2 高斯—赛德尔迭代法
把Jacobi迭代法的公式进行改写之后，就可以推导出高斯—赛德尔迭代法。
目录
第一章 绪论 1
第二章 线性方程组 2
2.1 线性方程组的直接解法 3
2.2 线性方程组的迭代法 4
2.2.1 雅克比迭代法 4
2.2.2 高斯—赛德尔迭代法 5
第三章 超定方程组的最小二乘解 7
3.1 超定方程组的最小二乘解 7
第四章 LSQR迭代法的研究 10
4.1 Lanczos 迭代过程 10
4.2 Lanczos 迭代矩阵双对角化 12
4.3 LSQR与最小二乘 15
第五章 数值实验 18
结 语 22
致 谢 23
参考文献 24
第一章 绪论
LSQR算法在求解线性系统的时候用QR分解，所以又称其为最小二乘QR分解算法。该算法是共轭梯度法的一个变型，该方法不仅对数据误差有明显的抗干扰能力，同时求线性方程组解的收敛速度也比较快。由于它的优势是计算稳定，收敛的速度较快，因而它非常适用于于求解大型稀疏系数矩阵。但是对于一些病态方程，当其初始误差较大时，就会有速度慢、甚至更有不收敛等情况的出现 *好棒文|www.hbsrm.com +Q: @351916072@
，就这时就应该用有效的解法，即正则化法来将迭代法重新构造，就相当于在线性系统中加上阻尼系数，改善矩阵的病态性。
LSQR算法是Paige和Sanders在1982年提出的最小二乘法和线性系统的方法，适用于解决大型稀疏线性方程组，并且，再相比较其他方法，LSQR算法的求解量较小，能够使用简化来计算或求解大型稀疏线性方程组，其有效性是毋庸置疑的。
LSQR算法的优点是占有用的存储空间少，运算速度较快，特别适用于求解系数为大型稀疏矩阵的方程组，和其他的迭代方程组相比较下，在求解奇异或者病态的问题时，LSQR能够显示其更快的收敛性以及更好地可接受的结果。
LSQR算法是一种特别适用于求解大型稀疏矩阵的迭代算法，在数学上就相当于共轭梯度法。
第二章 线性方程组
线性方程组即线性系统的求解问题是一个探究很久的数学问题，早在中国古代的《九章算术》中，就已经详尽的描写了线性系统的消元法。而到了19世纪初，西方也有Gauss消去法。但是求解多未知数的线性方程组则是在20世纪中叶，计算机问世以后才得以求解出来。
线性方程组的求解的数值方法有很多种，但是一般可分为直接法和迭代法两种。直接法是在没有舍入误差的情况下，经过了有限次的运算来求得方程组的精确的解法。为此，直接法又可称为精确法。而迭代法则是采用逐次逼近的解法，就是从一个初始向量出发，按照一定量的计算，构造出一个向量的无穷序列，其极限是其方程组的精确解，若是只经过有限次运算是得不到其精确解的，只能获得近似解。
2.1线性方程组的直接解法
高斯消去法是很早以前提出的一种求解线性系统的方法，其最早出现在公元前250年前，数学家就有研究此方法的应用，可见其悠久。高斯消去法的基础是以行初等变化为主，而后通过改进和变化等一系列的进化，变成了计算机算法。其中高斯消去法又有两种分支的出现，即高斯选主元消去法以及三角分解法。
高斯消去法是目前求解中小规模线性方程组（即阶数不能太高，例如：小于等于1000）常用的方法，一般是用在稠密的系数矩阵（矩阵的绝大多数元素为非零）且没有任何特殊结构的线性方程组。若系数矩阵存在特殊形式，为了尽可能减少计算量和储存量，就需要采取特别的方法来求解。
高斯消去法的核心思想是采用初等行变换，改变其系数矩阵，并且化为较为简单的矩阵或者线性系统，也就是将线性方程组进行一些变换来使其简单化，例如，左变换等，化为上三角矩阵，接着转变为简单的线性方程组，然后再进行将公式回代求解，最近进行求解。
高斯消去法的基本步骤：先进行消元计算，然后再回代求解。
算法公式：
消元公式：有，如果，取消元因子，
，
对公式进行回代：如果，
。
2.2 线性方程组的迭代法
迭代法是按照规则构造一个向量序列，使它的极限向量是方程组的精确解。一个方法的有效性要看得到的近似解的精确程度，对其付出的代价如何。一般以运算量和存储量要求为标准。在这个标准下，直接法在很多方程组中会比迭代法有效，但是对于大型的稀疏方程组，迭代法会更加适用。
2.2.1 雅克比迭代法
雅可比迭代法
在阶线性方程组中，是非奇异性的矩阵，。在线性方程组中第个方程可以呈现为可以把它改变成为和它一样的等价值的线性方程组
取任意的初始向量，在上式的计算中我们可以得出一个迭代序列，若是要满足，（为精度），终止计算的话，那么就是满足了的近似解。
雅可比迭代法性质
将线性方程组的系数矩阵分成，若
则出现，相当于
并且接着出现，以为对角元的对角阵，所以
，
若是记为则当中的
因此，Jacobi迭代公式的矩阵形为，中则被称作是Jacobi迭代矩阵，。
2.2.2 高斯—赛德尔迭代法
把Jacobi迭代法的公式进行改写之后，就可以推导出高斯—赛德尔迭代法。
版权保护: 本文由 hbsrm.com编辑，转载请保留链接: www.hbsrm.com/jsj/jsjkxyjs/716.html
