数 学 MATH,思维的体操 加里宁,Ax=b 的最小二乘解。,定义,第二节 超定方程组的最小二乘解,设方程组Ax=b中, A=(aij)mn, b是m 维已知向量, x是n 维解向量,当 mn 即方程组中方程的个数多于自变量的个数, 称此方程组为超定方程组.,定理3,定理3,x*是 Ax=b 的最小二乘解的充要条件为: x*是 ATAx=ATb 的解.,则,所以x *是Ax=b 的最小二乘解。,令,必要性： r=b-Ax 的第 i 个分量为,记,由多元函数求极值的必要条件，可得,写成矩阵形式为,即,3. 解的存在唯一性,ATA是n阶方阵，且是对称阵。,当R(A)=n 时，对任意,解 方程组写成矩阵形式为：,正规方程组为,误差平方和为：,
