1、稀疏线性方程组求解法稀疏线性方程组的求解是对自然科学和社会科学中许多实际问题进行数值模拟时的关键技术之一。在高层建筑、桥梁、水坝、防洪堤的结构设计中，需对变形与应力情况进行模拟；在油气资源探测与分析、数值天气预报、飞行器的动力学分析中，需利用流体力学方程组进行模拟;在进行恒星大气分析与核爆实验时，常需利用辐射流体力学与粒子统计平衡等规律进行模拟。在对这些问题进行分析模拟时，通常利用偏微分方程建立数学模型。在对偏微分方程的离散求解过程中，稀疏线性方程组求解算法扮演着十分重要的角色。在许多不以偏微分方程建模的问题中，稀疏线性方程组求解同样发挥了重要的作用。在空中交通控制、电力线路中的最优电流问题中
2、，需利用数学规划求解;在对采纳某项政策时在某给定条件下对国内、国际多个区域的相应经济指标进行预测时，需利用 CGE 模型进行分析；在可靠性分析、排队网络分析与计算机系统性能评估中，常利用具有大量状态的离散Markov 链进行模拟。在这些问题的求解中，稀疏线性方程组的求解都占有重要位置，并且往往是整个计算过程中的性能瓶颈，稀疏线性方程组的高效求解是计算数学和工程应用中十分重要的课题之一。解稀疏线性方程组的方法包括直接法(direct method)与迭代(iterative method)两类。直接法指在不考虑计算舍入误差的情况下，通过包括矩阵分解和三角方程组求解等有限步的操作求得方程组的精确解
3、，因此又称精确法;迭代法指给定一个初始解向量，通过一定的计算构造一个向量列(一般通过逐次迭代得到一系列逼近精确值的近似解) ，向量列的极限为方程组理论上的精确解。迭代法对存储空间的需求低，在求解高阶非病态（求解方程组时如果对数据进行较小的扰动，则得出的结果具有很大波动，这样的矩阵称为病态矩阵。判定矩阵是否病态以及衡量矩阵的病态程度通常是看矩阵 A 的条件数 K(A)=A-1*A的大小,其中 表示对矩阵取某一种范数。K(A)称为 A 的条件数 ,它很大时，称 A 为病态，否则称良态；K(A)愈大，A 的病态程度就愈严重。）稀疏线性方程组方面具有一定优势。然而，迭代法不适合求解病态问题，性能因问题
4、而异，并且面临精度控制、收敛速度慢或不收敛等问题。直接法的通用性好，求解结果精度高，性能稳定。当矩阵分解结果能够被多次后续计算重用以及多右端项（例如向前向后逐步回归）时，直接法的优势尤其明显。在有限元分析、模拟电路瞬态仿真等应用领域的商用软件均采用直接法求解器作为标准的稀疏线性方程组求解器。但直接法的缺点在于对存储资源要求较高，无法处理高阶稀疏矩阵。一般来说，迭代法的求解速度高于直接法。但是，如果使用直接法时矩阵分解过程能够被很多后续计算重复使用，则后续的三角阵求解可以非常快速实现，此时直接法在性能上具有优势。典型例子是模拟电路瞬态仿真，这时需要多次以 Newton-Raphson 方法求解非
5、线性方程，每一次求解均会在工作点附近展开为线性方程，而且所有线性方程的矩阵分解方式都是固定的，因此目前求解该类问题最好的方法是直接法。稀疏矩阵的矩阵分解在GPU 上的实现是很困难的，主要难点在于现有算法的数据依赖性导致可利用的并行性不足。此外，矩阵元素的排列顺序对计算过程中间结果矩阵的非零元素个数有很大影响，同时矩阵分解后的非零元素的分布与原来矩阵可能很不相同。迭代法的理论基础相对复杂，并且具有多种不同的具体算法，但其基本形式均为从一个猜测解出发，通过多次迭代逐渐收敛，当误 差满足一定条件时迭代中止。共扼梯度法(CG)是迭代法的主流方法之一，特别适合于特征值为良态分布的对称正定方程组 ；其它迭
6、代法包括 Jacobi、逐次超松弛 (SOR)、广义极小剩余(GMRES)、预条件共扼梯度(PCG) 等。迭代法的核心算法是稀疏矩阵向量乘(SpMV)，因此实现 SpMV 的高效并行结构也是实现迭代法的基础。直接法由高斯消元法发展向来，求解过程包括矩阵排序(matrix ordering)符号分解(symbolic factorization)、数值分解(numerical factorization)、三角方程组求解(triangular solves)四个步骤。其中，矩阵排序和符号分解属于预处理部分。矩阵排序通过启发算法置换稀疏矩阵的行列，试图在后续计算中维持矩阵的稀疏性或数值稳定性。符号分解则是预先对矩阵分解后的稀疏结构进行预测，预先分配存储空间并记录数据相关性。直接法的计算瓶颈在于数值分解部分和三角方程组求解部分，高效的直接法求解依赖于二者的高效实现。对于一个稀疏线性方程组是选择直接法还是迭代法求解，一般有如下原则：对于低阶矩阵或大型带状矩阵所对应的线性方程组，用直接法求解；而对于大型(非带形) 矩阵所对应的线性方程组，用迭代方法求解。实际上，选用何种方法还要看具体的应用背景，比如，对于线性规划和一些结构工程应用，只有直接法是切实可行的。对于精度要求很高的问题，还可以采用由直接法得到初始解再用迭代法进行迭代的方法求解，这种方法称为迭代精化法。
