1、第三章,函数逼近与计算,在科学与工程技术的很多领域,人们常碰到大量带有误差 的实验数据,这时采用高次插值会出现震荡,采用分段插值 则会使函数非常复杂,无法准确反映被侧函数的整体性态, 因此,不适合用插值法。,1 引言,如何在给定精度下,求出计算量最小的近似式,这就是 函数逼近要解决的问题。,一、问题的提出,二、函数逼近问题的一般提法:,对于函数类,中给定的函数,,要求在另一类较简 单的且便于计算的函数类,中寻找一个函数,,使,与,之差在某种度量意义下最小。,注:本章中所研究的函数类,通常为区间,上的连续函数,记做,;而函数类,通常是代数多项式或三角多项式。,的函数逼近称为最佳一致逼近或均匀逼近
2、。,三、常用的度量标准:,(一) 最佳一致逼近,若以函数f (x)和P(x)的最大误差,作为度量误差 f (x) P (x) “大小”的标准,在这种意义下,(二) 最佳平方逼近:,采用,作为度量误差“大小”标准的函数逼近称为最佳平方逼近或均方逼近。,2 最佳一致逼近,一、最佳一致逼近的概念,设函数,是区间,对于任意,,如果存在多项式,,使不等式,则称多项式,在区间,上一致逼近 (或均匀逼近)于函数,定义,上的连续函数,,给定的,成立,,。,二、最佳一致逼近多项式的存在性,定理 1(维尔斯特拉斯定理)若f (x)是区间a, b上的连续函数,则对于任意 0, 总存在多项式 P (x),使对一切a
3、x b 有,上的最佳一致逼近,在,能否在所有次数不超过n的代数多项式中找到一个,表示由所有次数不超过n的代数多项式 构成的线性空间。,空间中的最佳一致逼近问题。,意义下:,,使得,其中,,这就是,三、,四、 上最佳一致逼近多项式的存在性,定理2(Borel定理),对任意的,五、相关概念,1、偏差,定义,上的偏差。,则称,为,与,在,注:,,,集合,记作,,它有下界0.,显然,,若,的全体组成一个,2、最小偏差,则称,若记集合的下确界为,为,在,上的最小偏差。,定义,3、偏差点,定义,设,若在,上有,则称,是,的偏差点。,若,若,则称,则称,为“正”偏差点。,为“负”偏差点。,4、交错点组,若函
4、数,定义,在其定义域的某一区间,个点,上存在,使得,则称点集,为函数,在区间,上的一个交错点组,,称为交错点。,点,六、,上的最佳一致逼近的特征,引理3.1,是区间,上的连续函数,,是,的n次最佳一致逼近多项式,,存在正负偏差点。,则,设,必同时,定理 3 ( Chebyshev定理),是区间,上的连续函数,,设,则,是,的n次最佳一致逼近多项式的充要条件是:,在区间,上存在一个至少由,组。,个点组成的交错点,推论1,是区间,上的连续函数,,是,的n次最佳一致逼近多项式,,在,内存在且保号,,在区间,个点组成的交错点组,,端点,都在交错点组中。,上恰好存在一个由,设,若,则,且两,推论2,推论
5、3,七、一次最佳逼近多项式,1、推导过程,设,,且,在,内不变号,,要求,在,上的一次最佳一致逼近多项式,由推论1,,在,上恰好有3个点构成的交错,且区间端点,属于这个交错点组,,组,,设另一个交错点为,则,解得,即,即,2、几何意义,?,3、举例,求 在 上的最佳一次逼近多项式。,解:,由 可算出,故,解得,由,得,于是得,的最佳一次逼近多项式为,故,误差限为,(*),在(*)式中若令 ,则可得一个求根的公式,八、 Chebyshev多项式及其应用,(1)定义,称,为n次Chebyshev多项式.,注,It is very important,令,则,而,故 为关于 的 次代数多项式。,(2
6、)性质,正交性:,由Tn (x) 所组成的序列 Tn (x)是在区间-1, 1上带权,的正交多项式序列。,且,递推关系,相邻的三个切比雪夫多项式具有如下递推关系式:,奇偶性:,切比雪夫多项式 ,当 为奇数时为奇函数;,为偶数时为偶函数。,在区间-1, 1上有 个不同的零点,Tn (x) 在-1, 1上有n + 1个不同的极值点,使Tn (x)轮流取得最大值 1 和最小值 -1。,切比雪夫多项式的极值性质,Tn (x) 的最高次项系数为 2n-1 (n = 1, 2, )。,在区间-1,1上,在所有首项系数为1的n次多项式 中,与零的偏差最小,,即对于任何 , 有,该性质又被称为Chebyshe
7、v多项式的最小模性质.,注:,区间 上的最小零偏差多项式,且其偏差为,(3)应用,多项式的降阶(最小零偏差问题),在所有次数为 的多项式中求多项式 ,在给定的有界闭区间上与零的偏差最小。,使其,最小零偏差多项式问题。,这一问题被称为,不失一般性,可设 的首项系数为1,,有界闭区间为 .,所讨论的,对一般区间 ,,可先将 换为 ,,考虑 在 上的逼近 ,再将 换回 ,,得到 。,最后,寻求最小零偏差多项式 的问题,求 的 次最佳一致逼近多项式的问题。,事实上等价于,即求 使其满足:,注: 在 上首项系数为1的最小零偏差多项式为 。,设,为,上的,次多项式,,要求 在 上的不超过 次的最佳一,致逼
8、近多项式 。,?,由于首项系数为1的 次Chebyshev多项式,无穷范数最小,,故有,于是,例1 设f(x)=4x42xx8x-5/2, |x|1. 求f(x)在-1,1中的3次最佳一致逼近元p3(x).,解 由f(x)的表达式可知b,注:对区间为a,b的情形,先作变换x=(b-a)t/2+(b+a)/2 (2) 然后对变量为t的多项式用(1)式求得pn(t),然后再作(2)式的反变换得到a,b上的最佳一致逼近多项式.,由(1)式得 p3*(x)=f(x)-4T4(x)=2xx8x-3.,首项系数为1的4次,Chebyshev多项式为:,T4(x)xx1/8.,近似最佳一致逼近多项式,设,且
9、存在,阶连续导数,如何在 上确定互异的插值节点,使得 的 次插值多项式的余项最小?,由插值余项定理, 次插值多项式 的余项为,其中,,其估计式为:,因此,要使余项达到最小,只需使,尽可,能小。,是一个首项系数为1的 次多项式,,故由Chebyshev多项式的性质,,只要取,即可。,而,故只需取 为 次Chebyshev多项式的零点,,即,注意到,注:,3 最佳平方逼近,一、内积空间,1、定义,称二元函数 为内积。,设 为(实)线性空间,对 中每一对元素 ,在 上定义了内积是指,都有一实数,记为 与之对应,,且这个对应满足:,(2),(1),(3),(4),则称 为内积空间,,2、内积的性质,设
10、 是一内积空间,则对任意的 ,有,(1)柯西许瓦兹不等式:,(2)三角不等式:,3、两种重要的内积空间,n维欧氏空间 ,内积就是两向量的数量积,即,连续函数空间 ,内积可以定义为积分的运算或带权函数的积分运算,即,或,4、权函数的定义,设 (x)定义在有限或无限区间a, b上,如果具有下列性质:,(1) 对任意x a, b, (x) 0;,(2) 积分 存在,(n = 0, 1, 2, );,(3) 对非负的连续函数g (x) 若,则在(a, b)上g (x) 0。,称满足上述条件的 (x)为a, b上的权函数。,5、Euclid范数及其性质,定义,设,称为,的Euclid范数。,则称量,性质
11、,对于任何 下列结论成立:,1、,2、,3、,(Cauchy-Schwarz不等式),(三角不等式),(平行四边形定律),二、相关概念,1、距离,线性赋范空间中两元素 之间的距离为,连续函数空间 中, 与 的距离即为,因此, 中两点 与 之间的距离即为,也称为2-范数意义下的距离,2、正交,若 则称 与 正交。,连续函数空间 中,设,则称f (x)与g (x)在a, b上带权 (x)正交。,进一步, 设在a, b上给定函数系 ,若满足条件,则称函数系 是a, b上带权 (x)的正交函数系。,若,特别地,当Ak 1时,则称该函数系为标准正交函数系。,若上述定义中的函数系为多项式函数系,则称之为a
12、, b 上带权 (x)的正交多项式系。,并称 是 上,带权(x)的 次正交多项式。,3、正交化手续,一般来说,当权函数 及区间 给定以后,可以由幂函数系 利用正交化方法构造出正交多项式系。,4、正交多项式的性质,(1) 是最高次项系数为1的 次多项式.,(2)任一 次多项式 均可表示为 的线性组合.,(3)当 时, 且 与任一次数小于 的多项式正交.,(4)递推性,其中,这里,且都在区间 内.,(5),设,是在,上带权,项式序列,的正交多,则,的,个根都是单重实根,三、常用的正交多项式,1、第一类切比雪夫多项式,(1)定义,(2)性质,2、Legendre(勒让德)多项式,(1)定义,多项式,
13、称为n 次勒让德多项式。,(2)性质,正交性,勒让德多项式序列 是-1, 1上带权 的正交多项式序列。即,递推关系,相邻的三个勒让德多项式具有如下递推关系式:,奇偶性:,当n为偶数时, 为偶函数;,当n为奇数时, 为奇函数。,在区间-1, 1内部存在n个互异的实零点。,的最高次项系数为,(5) 在所有首项系数为1的 次多项式中,,多项式 在 上与零的平方误差最小。,勒让德,证明:,设 是任意一个最高项系数为1的 次多项式,,它可表示为,于是,当且仅当,时等号才成立,,即当 时平方误差最小。,3、其他常用的正交多项式,(1) 第二类Chebyshev(切比雪夫)多项式,定义: 称,为第二类切比雪
14、夫多项式。, 相邻的三项具有递推关系式:,第二类切比雪夫多项式的性质:,(2) 拉盖尔(Laguerre)多项式,定义: 称多项式,为拉盖尔多项式。, 是在区间0, +上带权 的正交多项式序列。, 相邻的三项具有递推关系式:,拉盖尔多项式的性质:,(3) 埃尔米特(Hermite)多项式,定义: 称多项式,为埃尔米特多项式。,的正交多项式序列。, 是区间(-, +)上带权, 相邻的三项具有递推关系式:,埃尔米特多项式的性质:,四、内积空间上的最佳平方逼近,1函数系的线性关系,定义:,设函数 在区间 上连续,,如果关系式,当且仅当 时才成立,,函数在 上是线性无关的,否则称线性相关。,则称,连续
15、函数 在 上线性无关的充分必要条件是它们的克莱姆(Gram)行列式,定理,其中,,是任意实数,则,并称 是生成集合 的一个基底。,的全体是 的一个子集,记为,设 是 上线性无关的连,续函数,对任意的,为 的最佳平方逼近元。,2、最佳平方逼近元的定义,设 为线性内积空间,,为 上 个,线性无关元,,记由 张成的 的子空间为 ,,即,定义,在 的子空间 中,,求 的在2-范数,意义下的最佳逼近元 ,,即求 ,使不等式,对任意 成立.,若满足上式的 存在,,称,3.最佳平方逼近元的存在性,定理1,设 为线性内积空间,,由线性无关组,张成的线性空间 为 的子空间,,存在 为 的最佳平方逼近元.,则对任
16、意的,Remark:,线性内积空间 的子空间 的线性无关组,选取不同,,在 中求得的对 的最佳,平方逼近元 也不同,求解 的难易程度也不同。,4. 最佳平方逼近元的充要条件,定理2,内积空间),为,的最佳平方逼近元的充要条件是:,(线性,与一切,正交。,其中,,为 的 个线性无关元。,REMARK:,定理2中所说的 与一切 正交,,与一切 的内积等于零,,是指,即,证:,必要性.,用反证法.,设 为 的最佳平方逼近元,,不与所有的 正交.,但,即存在,使得,则,令,所以 必须与一切 正交.,且,这说明 不是对 的最佳平方逼近元,,与假设条件矛盾,,充分性.,仍记 则对任意的 ,有,对任意 成立
17、,即 为 的最佳平方逼近元。,所以,进而有,5.最佳平方逼近元的惟一性,定理3,线性内积空间 的子空间 中若存在对 的,最佳平方逼近元,则惟一.,6. 最佳平方逼近元的求解,现假定线性内积空间 上的内积已定义,,并且 的,子空间的一组基底 也确定,,最佳平方逼近元.,那么,对具体的被逼近元,如何求,使其为 的,由最佳平方逼近元的充要条件,,若假定,则可以得出,其中,为待定系数。,恒等变形为,用矩阵式表示这个方程组为,此方程组称为法方程组。,若所选取的一组基底 满足,则称其为正交基,此时,五、连续函数的最佳平方逼近,1. 对于给定的函数,要求函数,使,若这样的 存在,,上的最佳平方逼近函数。,则
18、称为 在区间,特别地,若,则称,为,在,上的 次最佳平方逼近多项式。,求最佳平方逼近函数 的问题可归结为求它的系数 ,使多元函数,取得极小值。,由于 是关于 的二次函数,故利用多元函数取得极值的必要条件,可得,(k = 0, 1, 2, , n),得方程组,如采用函数内积记号,方程组可以简写为,写成矩阵形式为,法方程组!,由于0, 1, , n线性无关,故Gn 0,于是上述方程组存在唯一解 。,从而肯定了函数f (x)在中如果存在最佳平方逼近函数, 则必是,3.举例,求 在 中的最佳平方逼近元。,这是 上的最佳平方逼近问题.,解:,取,记,因为,且同样可求得,所以,关于,的法方程组为,解得,即
19、,为,中对,的最佳平方逼近元。,4.函数按正交多项式展开,设,为,其中,上带权,的正交多项式系,,给定,若,为,在,上的 次最佳平方逼近多项式,,则由,正交多项式的性质,,即,例:,求,在,上的三次最佳平方逼近多项式。,解:,先计算,即,所以得,所以有,均方误差为,最大误差为,六、曲线拟合的最小二乘法,1.问题提出,已知测量数据:,要求简单函数,使得,总体上尽可能小。,称为“残差”,这种构造近似函数的方法称为曲线拟合;,合函数。,称为拟,2.曲线拟合的步骤:,(3)根据某一逼近准则确定拟合函数的未知参数;,(2)观察散点分布,选择适当的函数类来构造拟合函数;,(1)根据已知条件画出散点图;,这
20、一方法称为数据拟合法,得到的函数p(x)称为拟合曲线。,注:,使,尽可能小的度量准则:,常见做法:,使 最小,较复杂,使 最小,不可导,求解困难,使 最小,线性拟合问题,若记:,确定拟合函数,对于一组数据(xi, yi) (i = 1, 2, , m) ,,达到极小,这里 n m。,3.最小二乘法-2-范数度量下的曲线拟合,,使得,则,记,则E 实际上是 c0, c1, , cn 的多元函数,在 E 的极值点处应有,于是,得到关于c1,c2,cn的方程组,法方程组(或正规方程组),(8),多项式拟合问题,取,称为多项式拟合。,得到的拟合函数,非线性拟合,(1)双曲拟合,(2)对数拟合,(3)指
21、数拟合,(4)幂函数拟合,t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16; y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86, 10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60; Plot(t,y,.); y1=11.3253*10(-3)exp(-1.0567./t); Plot(t,y1);,作散点图,举例,给定 的一组数据,求拟合函数 。,解:,作图可知所有点都分布在一条直线的附近,即拟合函数 近似为一个线性函数,故可设,将数据带回,即可得拟合函数,4.用正交函数作最小二乘拟合,给定,与正交函数系,可利用正交化手续进行构造,则最小二乘拟合函数为:,