1、 数学模型 - 85 -第三章 随机数学模型3.1 多元回归与最优逐步回归一、数学模型设可控或不可控的自变量 ；目标函数 ，已测得的 n组数据为：xp12, ym12,(1.1),2121 mpy其中 是系统的测试数据，相当于如下模型：设多目标系yjmn, 统为： 为简化问题，不妨设该系统为单目标系统，且由函数关系 ，可以yfxp(,)12设：(1.2)yxp01可得如下线性模型(1.3)npnn pxxyx 210 222102 11 为测量误差，相互独立， 。12, iN (,)0令 YyXxxn pnnppn121212 0112 可得y12mx12系 统 xp- 86 - 第三章 随机
2、数学模型(1.4)YX(1.4) 称为线性回归方程的数学模型。利用最小二乘估计或极大似然估计，令使 ，由方程组ni ipii xxyQ1 210 Qmin(1.5)pi,2可得系数 的估计。01,令 方阵可逆，由模型AXT设 ()YX可得： YAT即有 (1.6)1可以证明(1.6)与(1.5)是同解方程组的解，它是最优线性无偏估量，满足很多良好的性质，另文补讲。二、模型的分析与检验设目标函数 的平均值 ，则由公式可计算得总偏差平yn1, ynyn12()方和，回归和剩余平方和：SSSyn n总 剩 回()()()21 21 21(1.7)xpxnpFSnF回 剩回剩 221/(,)假设检验：
3、 Hp0120： 至少有一个不为零：结论是：当 pnH(,),0时 拒 绝当 时 ， 接 受F当 被拒绝以后，说明方程(2)中系数不全为零，方程配得合理。否则在 被接受以后，0 H0数学模型 - 87 -说明方程配得不合适，即变量 对目标函数 都没有影响，则要从另外因素去xp12, y考虑该系统。三、回归方程系数的显著性检验假设 备选假设 Hjj0:Hjj10： p12,可以证得：(1.8)jj jjjjcNFcSnpFnp 剩(,)()/(,)01112或者的对角线元素。tSnptcAXjjj jT/()()剩 是111当 时， 显著不为零，方程(1.2)中第 jFnpj j(,)2或 j个
4、变量作用显著。若有某一个系数 假设被接受，则应从方程中剔除。然后从头开i0始进行一次回归分析工作。四、回归方程进行预测预报和控制经过回归分析得到经验回归方程为(1.9)yxp01设要在某已知点 上进行预测，可得点估计：(,)xo02(1.10)p01下面对预测预极值 进行区间估计，可以证得y0Nb(,) 其中 bnCxxijoiojjjpi21()ySnpySnptnp(,),/()02 0111 剩 剩得 的预测区间为：0- 88 - 第三章 随机数学模型(1.11)1)(1 2020 pnStypnSty 剩剩 五、最优逐步回归分析在线性回归分析中，当经过检验，方程(1.2)作用显著，但
5、为显著,说明 不i0xi起作用，要从方程中剔除出去，一切都要从头算起，很麻烦。这里介绍的方法是光对因子逐个检验，确认它在方程中的作用的显著程度，然后依大到小逐次引入变量xp12,到方程，并及时进行检验，去掉作用不显著的因子，依次循环，到最后无因子可以进入方程，亦无因子被从方程中剔除，这个方法称为最优逐步回归法。从方程(1.2)中,为方便计,设变量个数 ,记 可得1mp;,21,nxyma 110n xxx(1.12)2,此时仍可得 SxSxmmnn总 回 (),()2211 是回归估计值n剩 ,21回归方程为(1.13)xbxbmm021分别是 的系数估计。为了减少误差积累与放大，进行数011
6、, 01,据中心化标准化处理：zjijjj,(1.14)jjjnx()21可得数学模型为：(1.15)zzznn m , ,01212经推导可得：， ，RNXAT0YXBT数学模型 - 89 -，)1(mijrRjinjjiij xxr1)(称为系数相关矩阵BrrRrrrrmm mmm 01211212121 , ,由此可得经验回归方程：(1.16)Zdzdzn121然后以变换关系式代入可得yxxdxnmm( )1211(1.17)121md将(17)式与(13)式进行比较，可得：bdjjmj,(1.18)xj01只要算得(16)式的 即可。注意到dj， ， ，2总总 Sm回回 Sm21剩剩
7、Sm21VQjmj12其中 是对于因子 的偏回归平方和，可以证明线性方程中对变量 的多元线性回归方Vjxj Zj程中 的偏回归平方和为（ 是原方程中的偏回归平方和）：Zj jQrjjmj()/12把系数矩阵 R变成加边矩阵，记为- 90 - 第三章 随机数学模型Rrrrrmmmm(),012112221211 比较 ,设 ,则相应变量 作用最大，但是否显著大，要V121()()(), )()(ax1jjkVZk1进行显著性检验，可以证得FSfrnFk km1111 2()()()()/ )(,)剩 剩 当 时，可将变量 引入方程中去。n2, Zk1现将这个循环步骤介绍如下：第一步：挑选第一个因
8、子1. 对 计算 的偏回归和j1, zjVrjjmj()/122. 找出 决定 )1(1)(maxjjkVZk13. F检验 rnkm112()当 时引入 ，一般总可以引入的。n12(,)Zk1第二步：挑选第二个因子首先变换加边矩阵 Rrtsj()()()02则 ， drkjjmjj()()/211)(jjjc因子 的偏回归平方和zkj()1Vdrjjjjmj)()()/2212记 jkVj j()()ax1决定 zk2可否引入数学模型 - 91 -步骤： 1. 对 ，计算 的偏回归平方和 。jk1zj Vj()22. 找出 中最大的一个，记为 。Vj()2k23. 对 作显著性检验：zk2当
9、 时，要引入 。FrnFnmk12313()(,)zk2第三步：当引入 时， 是否要剔除呢？zk1即已有方程：()()dmkk122检验 的偏回归平方和：zk1Vcrkkkmk11111222()()()()()/Srrmm剩 ()()()()()()()2 2222fn剩 3当 时因子 不剔除。同样的方法FSfVrnFnkkm221113()()()()/ (,)剩 剩 zk1以时因子 不剔除。rkm2223()(,)zk2第四步：重复进行第二步到第三步。一直到没有可引入的新因子，也没有可剔除的因子。最后方程为：(1.19)zdzdznkkkl12并把(1.19)式换算成类似的(1.13)式
10、。3.2 主成份分析与相关分析一、数学模型这是一个将多个指标化为几个少数指标进行统计分析的问题，设有 维总体有 个随机p指标构成一个 维随机向量 ，它的一个实现为 ；而且这p(,)12 pxp12,个指标之间往往相互有影响，是否可以将它们综合成少数几个指标- 92 - 第三章 随机数学模型，使它们尽可能充分反映原来的 个指标。ykp12,() p例如加工上衣，有袖长、身长、胸围、肩宽、领围、袖口、袖深，等指标，是否可以找出主要几个指标，加工出来就可以了呢？例如主要以衣长、胸宽、型号(肥瘦)这样三个特征。设 为 维随机向量， 为期望向量, 为协XxpT(,)12 E()DXV()方差矩阵，其中1
11、2p ijpDXCOVx()(,)设将 综合成很少几个综合性指标，如 ，不妨设x12, yk12,yaxapT12XxT p(,),(,)12 则有DyDVaTT)1要使 尽可能反映原来的指标的作用，则要使 尽可能大，可以利用 乘子法:要y1Lagrne对 a加以限制, ,否则加大 , 增大无意义。令a1max1yT设 V()并使 (2.1)aT201可得方程组(2.1)的解为(2.2)VT以 左乘(2.2)之两边，得 a aVTT即 ayDT)(1数学模型 - 93 -由(2.2)式可得(2.3)0)(aIV要使满足(2.3)的 a非零，应有即入是 的特征根，设 是 的 个特征根，只要取 1
12、2, pVmax1，再由 ，求出 V的属于 的特征向量 ，在条件,max21pa11d是唯一的 维特征向量 。于是得T(2.4)XyT1二、主成份分析一般协方差方阵为非负定，对角线上各阶主子式都大于等于零，即特征值有：120 p设前 m个都大于零，依次为 ，相应的特征向量为 ，则12 mma,21， ， ， 即为第一,第二,第 个主成份，由线性代数XayT1Ty2 XayTm知识可知，不同的特征根对应的不同的特征向量线性无关，由于 V是实对称阵，则，变换后的各主成份 相互无关。即对 进行了一次m,21 ym12, xp12,正交变换。在实际应用中，V 阵往往是未知的，需要用 V的估计值 来代替
13、，设有 组观测值n,xxnp12 则取(2.5)nS(2.6)xxijpijiijjn()()1其中 是 的子样方差， 的子样协方差。需要求出 的特征值。ii ijij是 , V由于不同的度量会产生量纲问题，一般建议作如下变换：xxxpp11, 2 n- 94 - 第三章 随机数学模型用标准变量 代替以前的 ，即可以运算。此时的协方,xxnp1212 xij差矩阵即相关矩阵Rrijp从 R出发，可求主成份。三、主成份的贡献率为了尽可能以少数几个主成份 来代替 P个指标 ，那么要决ym12, xp12,定取多少个主成份才够呢？由于 COVXijp()()则可得 是 的方差，可得12, px12,
14、 trV()方 阵 之 迹亦是 V的全部特征值之和：12 pt由于 , 则令 表明方Dyimiii()(),012 ktrViiiiim1差 在全部方差中所占的比重，称 是第 i个主成份的贡献率，显然有i ki,不妨取一个阈值为 d(0d1)，当 时，即舍去，此时可取kkm12 kdi为主成份。以贡献率来决定它的个数。ydii1,() 3.3 判别分析一、数学模型根据所研究的个体的观察指标来推断个体所属于何种类型的一种统计分析方法，称为判别分析。例如某精神病院有精神病患者 256名，诊断结果将它们分成六类 (相当G126,于 6个总体)设服从三维联合正态分布 i=1,2,6，其中 ，Gi NV
15、i3(,)iii(,)123为协方差矩阵，一般这六种类型可分为焦虑状、癔病、精神病、强迫观念型、变态人格、V正常，若有如下子样：子样),(11VN112,n数学模型 - 95 -子样),(22VN221,n 子样,66 66,注意到每个子样 都是三维向量。现有一个新的精神病患者前来就医，测得三个指标：xij010.231试判断该患者病情属于哪一类。(一) 两点的距离设 维空间中有两点 , 则其欧氏距离为nXxTn(,)12 YyTn(,)12(3.1)12)(niiiyd欧由于数据的量纲不同，不采用欧氏距离, 用马氏距离有：定义 1：设 X,Y是从总体 G中抽取的样品,G 服从 P维正态分布，
16、 ,定义 X,YNVp()两点间的距离为马氏距离：(3.2)dXYVXYT(,)()()1定义 2：X 与总体 G的距离为 D(X，G)为(3.3)DETpT,(),)12(二)距离判别法设有两个协方差相同的正态总体 ，且G12,GNVNVPp112 (,)()对于一个新的样品，要判定它来自哪一个总体，有一个很直观的方法：计算 DX,12若 X2212()(),则 否 则(三)线性判别函数由 GVXT221212,()()()()XVT 1令 22- 96 - 第三章 随机数学模型记 WXVT()()12则有：当 时， 否则0XG2当 为已知时，令 ， 可得：12,a1(3.4)T()()称
17、为线性判别函数，a 为判别系数,因为 ，即 ,解XaV12()Va12线性方程组可得解Tp(,)12此时的判别规则为：(3.5)aXXGT()012X是新的一个点,将其代入即可判别。二、关于计算中应注意的问题实际上 均未知,要用样本值的估计公式来计算出 。其方法如下:与设子样 来自总体 ,子样 来自 ,可由xn121 G1yn122, GXYkkn121,SXxxkkTkikjjnn pi11 ()()()()pnk nkjkjiik yyY2 21 1(在本节的开头的例子中 P=3)得到 (3.6)VnS2112()(3.7)(YX判别函数为(3.8)()()1VW判别系数为数学模型 - 9
18、7 -)(1YXva三、关于误判率及多个总体的判别这里提及一个回报的误判率问题。在构造判别函数 W(X)时,是依据样本,现在已知 均属于 ,从道理上来说, 经过判别公式Xn121, Xn121, G1Xi(3.8),可得出 ,但也可能出来某几个不属于 ,这便是误判。若有Gii 1存在,使得 ,说明 ,这就产生了一个误判。所谓误判率,即是出现0n0)(nW20n误判的百分数,我们应该有所控制。当两个总体的协方差不相等时,可用如下方法:(3.9)DXVXT2111(,)()()(3.10)G22当 ,当 未知时,用下列估G2121(,)(,),时 否 则 12,计代替: 221121 SnVSnY
19、X在 个总体 时，均值为 协方差阵为 ( 维)mGm, , mVm12, p设 都已知时,X 为样品 计算iV, xp0102()选择一个最小的值Di2012(),例如 ， ),in)020imkGXDX则 设 未知,但独立，可以分别以估计值来计算。当上述 未知,但iV iV时，亦可以用上述类似方法。m12上述解决方法中，可以扩展到非正态分布。3.4 聚类分析物以类聚，人以群分，社会发展和科技的进步都要求对于某些物体进行分类。由于早期的定性分类已不能满足需要，于是数值分类学便应运而生。一、数学模型某种物品有 n个： 它有 m个数值量化指标，如何将其分成若干类，基本Xn12,的思路是把距离较近的
20、点归成一类。这里的距离可分为如下三类：1.距离 xxiii(,)12 in12,- 98 - 第三章 随机数学模型的距离,XijdDXijij(,)本文中的距离常用欧氏或马氏距离，公式在前几节中已述，还有一种用绝对距离：jkimkij xd1a)(应该提及马氏距离 可以克服数据相关性的困难。Mij()2.数据正规化处理当 的分量中 个指标量纲不一致时，相差很大，要经过正规化标准化处理，令Xi(4.1)(in)(ax)iijij其中 (4.2)xi iim(mn),12(4.3)i将经过(1)式处理的数据 重新视作 (为记号上的方便)xijij3. 相似系数法的相关系数Xij,(4.4)rxxi
21、j ikijkjmikijkj()()12211 1可以将相关愈密切的归成一类。4.最短距离聚类法(系统聚类法，逐步并类法)先将 n个样本各自为一类，计算它们之间的距离，选择距离小的二个样本归为一个新类，再计算这个新类与其它样本的距离，选择距离小的二个样本(或二个新类)归为一个新类，每次合并缩小一个以上的类，直到所有样本都划为一个类为止。这里规定两点间距离为：dDXijij(,)两类间的距离，即 的距离为：Gpq与ijXpqdqjpi,mn步骤如下：1.数据正规化处理要视各指标的量纲是否一致，相差是否太大，并选择一种距离计算法，为了方便计，数学模型 - 99 -一般都选择欧氏距离法。2.计算各
22、样本间的两两距离,并记在分类距离对称表中,并记为 D(0),第 0步分类,此时 (每一个样本点为一个类)Ddpq3.选择表 D(0)中的最短距离,设为 ,则将 合并成一个新类,记为DpqGpqGr(4.5)Grpq4.计算新类 与其它类之间的距离,定义rijGXrkdDkjri,mn ijGXijGXdkjqikjpi ,mn(4.6)pq表示新类 与类 之间的距离。rk5.作 D(1)表,将 D(0)中的第 p,q行和 p,q列删去,加上第 r行,第 r列。第 r行,第 r列与其它类的距离按(4.6)式判断后记上,这样得到一个新的分类距离对称表,并记为 D(1), D(1)表示经过一次聚类后
23、的距离表,要注意的是 Dr类是由哪两类聚类得到应在 D(1)表下给以说明。6.对 D(1)按 3,4,5重复类似 D(0)的聚类工作,得 D(2)。7.一直重复,直到最后只剩下两类为止,并作聚类图。二、应用类例现有 8个样品,每个样品有 2个指标(m=2,2 维变量),它们的量纲相同,(否则要经过正规化处理)编号 1 2 3 4 5 6 7 8x2 2 4 4 -4 -2 -3 -15 3 4 3 3 2 2 -3试用系统聚类方法对这 8个样品进行聚类。解:采用欧氏距离(1)最短距离法,首先用表格形式列出 D(0)D(0) G1 G2 G3 G4 G5 G6 G7 G8G1 0G2 2.0 0
24、G3 2.2 2.2 0G4 2.3 2.0 1.0 0G5 6.3 6.0 8.1 8.0 0- 100 - 第三章 随机数学模型G6 5.0 4.1 6.3 6.1 2.2 0G7 5.8 5.1 7.2 7.1 1.4 1.0 0G8 8.5 6.7 8.6 7.8 6.7 5.1 5.4 0表示第 i个样品,i=1,2,8Gi在 D(0)中,最小值是 1.0,相应的距离是 D(3.4),与 D(6,7)。则 合并为新类 ,把G34,9合并成 。6710(2)把 D(0)中去掉 G34673467,行 及 列并计算得下表,后两行重算,其余照 D(0)照抄。D(1) G1 G2 G5 G8
25、 G9 G11G1 0G2 2.0 0G5 6.3 6.0 0G8 8.5 6.7 6.7 0G9 2.2 2.0 8.0 7.8 0G10 5.0 4.1 1.4 5.1 8.1 0DD(,)min(,),9342158()10672(,)i(,),(,)647视 D(1)中,最小值为 1.4, 相应的是 D(5,10)将 合并成新类 。G51013)同法构造 D(2)表D(2) G1 G2 G8 G9 G10G1 0G2 2.0 0G8 8.5 6.7 0G9 2.2 2.0 7.8 0G11 5.0 4.1 5.1 6.1 0其中 ，在 D(2)中,最小值 D(1,2)DD(,)min(
26、,),),151289=D(2,9)=2.0，则把 GG129,合 并 成 新 类D(3) G8 G11 G12G8 0数学模型 - 101 -G11 5.1 0G12 6.7 4.1 0其中 ，在 D(3)中,最小值DD(,)min(,),(,),1212981D(11,12)=4.1， 因此把 G13合 并 成D(4) G8 G13G8 0G13 5.1 0DDD(,)in(,),(,),(,),(,).1381823845867851 (见 D(0)第 8行)3.把上述聚类过程用聚类图表示:说明：聚类到一定程度即可结束一般可以选取一个阈值 T，到 D(K)中的所有非零元素都大于 T，即结
27、束(表中的值T 值)设 T=2.5：则到 D(3)时结束，此时的共聚为三类：G1234125678,如下图：85761 32 4G1234587G812910 G13140 1 1.4 2 T 3 4 5 - 102 - 第三章 随机数学模型3.5 模糊聚类分析一、问题的提出客观事物分成确定性和不确定性两类,处理不确定性的方法为随机数学方法。在进行随机现象的研究时,所表现的现象是不确定的,但对象事物本身是确定的。例如投一个分币,出现哪一面是随机的,但分币本身是确定的。如果所研究的事物本身是不确定的,这就是模糊数学所研究的范畴。例如,一个人年龄大了,称年老,年小,或年青,但到底什么算年老,什么算
28、年青呢?又如儿子象父亲,什么是象?象多少?再说儿子象父亲,儿子又象母亲(部分象),难道父亲象母亲?1965年由 I.A.Zadeh提出模糊数学,它可以广泛地应于图象识别,聚类分析,计算机应用和社会科学。例如洗衣机和空调器已用上模糊控制,本节将把模糊数学的一套方法引入聚类分析中来,称为模糊聚类分析。二、数学模型设 E为分明集(集合)1.定义: fE10称为隶属度函数(分得很清楚)要末是,要末不是EX对 A为不分明集, fA()可以取 0到 1之间的任意一个实数值.当 愈接近于 1.则 的程度f fA()A愈大. 愈接近于 0.则 的程度愈小.()2.模糊数学的运算法则如 A和 B为不分明集,则有
29、:并,记为 ,)(,max)(BABAfff交,记 ,in()补,记为 , ffA()13.模糊聚类数学模型 - 103 -模糊聚类同于一般聚类法(相似系数法或最小距离法)以相似系数(相关系数)法为例:思路: 先算相似系数矩阵(相似矩阵)将相似矩阵改造成模糊矩阵:即将原相似矩阵的元素压缩到 0,1之间改造成模糊等价矩阵,取不同的标准,可以得到不同的聚类标准.计算步骤:第一步:计算相似的系数先将 数据标准化iiiim(,)12 n12,令得到标准化的数据为 Yyiii()1 ,显然 ( 标准化数据的平均值一定为 0)i0得标准化后比数据的相关系数为 2121 )()(mkjjmkiijjkkii
30、ij YYr mkjkikjkiY1212)(相似矩阵 Rrijn|rij第二步:将相似系数压缩到 0,1之间令 rrijijij0521.则建立模糊矩阵Rijn第三步:建立模糊等价矩阵由于上述模糊矩阵不具有传递性:即 R242,要通过褶积将模糊矩阵改造成模糊等价矩阵:矩阵的褶积与矩阵乘法类似,只是将数的加、乘运算改成并 和交 :ABabcijnijijn()()则 Cabijijijij12褶积为:,abijijijinj()()(12- 104 - 第三章 随机数学模型于是有: RRR24284,于是有: 一直到 为止h此时 即满足模糊等价矩阵,具有传递性h此时记它为:CR第四步:进行聚类
31、:将矩阵 CR的元素 依大小次序排列,从 1开始,沿着 自大到小依次取 值,定义:Crij Crij rij ij10可以得到若干个 0,1元素构成的 CR 矩阵,其中之 1的表示这二个样本划为一类三、一个实例=X(,)X1234-上海 4月平均气温; -北京 3月雨量2-5月地磁指数; -5月 500毫巴 W型环流型日数3 4予报对象:华北五站(北京、天津、营口、太原、石家庄)7-8 月降水量,仅用 61-67年 7 年的资料(略)第一步:计算相似系数经过标准化计算相似系数矩阵 R)R rij ( 1068402874056576911230491第二步:建立模糊矩阵将相似系数压缩到 0,1
32、之间 得rrijij052.数学模型 - 105 -143.02.16.5.0.26.10.49.2.03813.9.R第三步:建立模糊等价矩阵按上式计算: 例如 rrrrrrr12122132142152162172*()()()()()()()(.0609039834 得到 , 发现 , 当 取 0.92时:R248,R84C09210101.将 ,当 取 0.65时有:XX2525, ,合 并 成 一 类 X1313,亦 合 并 成 一 类 CR0651010.- 106 - 第三章 随机数学模型又将 合并成一类, 当 取 0.64时,有X46CR06410110.此时将 1,3,再与
33、4,6并为一类,可分成三类 XX1346257,再取 =0.63时1011063.0CR这次再将 ,只有二类: ,XX71346并 入 , X13467,X25聚类图:0.630.640.650.99 0.92X25X13X46X7数学模型 - 107 -说明:(1)当 =0.65时,共分成四类: XX2513467,(2)当 =0.64时,共分成三类: (3)当 =0.63时,共分成二类: 2513467,这是以按年份为基本类的分类图3.6 马尔可夫链及其应用一、随机过程描述一种随机现象的变量,一般称为随机变量,记为 ,而随着时间参数 t或其它参数变化而变化的随机变量,称为随机过程。定义 1
34、 在给定的概率空间( ,F,P)及实数集 T,其中 为样本空间,F 为分布函数,P为概率, 对于每一个 , 有定义在 ,F,P)上的随机变量 与之对应,则tT(,)tw称 为随机过程,一般简化为 。,);tw()t定义 2 (马尔可夫过程) 设随机过程 ,如果在已知时间 t系统处于状态 x的条件()t下,在时刻 ( t)系统所处状态和时刻 t以前所处的状态无关,则称 为马尔可夫过程。 ()t从定义 2可知马氏过程只与 t时刻有关,与 t时刻以前无关。定义 3 (马尔可夫链) 设随机过程 只能取可列个值 把 称() ,21 nrnrt)(为在时刻 系统处于状态 若在已知时刻 系统处于状态 的条件
35、下,在时tEn(,12 tE刻 ( ) 系统所处的状态情况与 t时刻以前所处状态无关,则称 为时间连 ()t续,状态离散的马氏过程。而状态的转移只能在 发生的马氏过程称为马尔tn(,)可夫链。从定义 3可知,马氏链是状态离散,时间离散的马尔可夫过程。定义 4 (转移概率) 设系统的离散状态为 设 表示第 次转移到状态E12, Ajk()表示系统开始处于 状态。EAj(0Ei则称 (6.1)PAijkjk()()()/1为系统在 k-1次转移到 状态,而第 k次转移到 状态的转移概率j j- 108 - 第三章 随机数学模型由定义可知 (6.2)PAPAAijkjkinjkiikii()()()
36、()()()()/,11210定义 5 若(2)式中 有:ij()(6.3)kijkij() ,2则称为均匀马氏链 (与第几次转移无关)即 PEPAijjijki(/)(/)()1定义 6 转移概率与转移矩阵令转移概率 为矩阵 的第 行,第 j列元素则有ijj,12 M1i(6.4)MP13223称为马氏链的转移矩阵,其中 1 Pijij01例:一个分子在两个附着壁之间的随机游动,如图 1所示满足以下条件:(1) 这个分子在 x轴上 1,2,S的位置上任意一点,且只能在这 S个位置上.(2)当分子在 1与 S两端点时,分子被吸收,不再游动(吸收壁)(3)分子每转移一次,只移动一步,且必须移动若
37、时刻 时,分子在 处( ),ti12si在一个单位时间后它转移到 i+1点处的概率为 P(向右移动),它转移到 i-1点处的概率为向左移动)。qp(,问:在初始位置于 i处,经过 5次转移它落在 j处的概率是多少?分析:该系统的转移概率为:Ps11 2 3 -1 Si x轴数学模型 - 109 -jijsiiqpPij 其 余 的当当当 120, 这个均匀马氏链系统的转移矩阵为Mqpp1 0001 二、马尔可夫方程和 步转移矩阵n设 表示一个均匀马氏链经过 步转移由状态 转移到状态 的转移概率,当Pij()nEi j时1nRijij讨论 (二步转移)2令 事件 B=“系统经由二次转移,由 转移
38、到 ”Eij=“系统由 转移到 ,再由 转移到 ” k=1,2,BkikkEj因此, k1两两互不相容事件2,PBPBij kk() ()11(只与状态 时的时刻有关)Ekijkk/)(/)1 Ek类似可证:(6.5)PnmPnijkikj()()1 1mn(5)式称切普曼一柯尔莫哥洛夫方程- 110 - 第三章 随机数学模型由代数知识:A=aannn1212212 AaaaBbnn nnnij2 1212121212 ()可见 baaaijikjijijijk121 于是 )2(2ijPM(6.6)ijikj1212类似可证得 (6.7)n上例要求 : 只要 Pij()5)5(51ijPM例
39、 dij4,求 得这个元素的值即可.d22()三、遍历性与平稳分布定义 7 设 为均匀马氏链(与第 n次转移无关),对一切状态 i及 j(或称 ,存n Eij在不依赖于 i的常数,使得(6.8)nijjPlm)则称均匀马氏链有遍历性遍历意义: 遍历性说明不论系统自那一个状态出发,当转移次数 n充分大时,转移到状态的概率近似于某个常数 。Ej j定理 1:对有限个状态的均匀马氏链 ,若存在一正整数 ,使对一切n0有ijs,12(6.9)Pnij()0则此马氏链是遍历的且(8)中的 是如下方程组j数学模型 - 111 -1 2 3(6.10)jijsPs12,在条件 下的唯一解j jjs01,证
40、略定义 8 (平稳性)：设 为有限 s个状态的均匀马氏链,若初始概率 n ),(jjEP满足全概率公式：sj,21iijjP1,2,则称 为平稳的, 称为 的一个平稳分布n sj() n表示第 k次转移到状态 的绝对概率j()Ej为初始状态概率可以证明: Pjjj()12结论: 当马氏链是平稳时,初始概率等于绝对概率 Pnj() 平稳均匀马氏链在任一时刻处于状态 的概率都相等,说明平稳。Ej例 2:例 1一样: 没有附着壁的随机游动其余同例 1设 PqPS13MqPq112133123132230 0二次转移矩阵为pPq2122则 对任意 说明是遍历的。由定理 1可知: 马氏链是平稳n0iji
41、j,:()320的即有: nijj jPslm(),13 是 存 在 的- 112 - 第三章 随机数学模型由 :jijisP1213122123331230qPj得 223 221)(/)( )(1/,/qpqpqp当 时,游动时前进一步与后退一步是等可能的,说明系统处于任一状态的概率1明显相等 1231四、马氏链的应用应用题 1: 机器生产零件时,机器处于两种可能状态的:=“可调整状态”-称良好状态A1=“不可调整状态”-称不良状态2机器使用一天,它的转移概率为 PPAPAPA111212122207030604(/).(/).(/).(/).问:在 n天以后机器处于不良状态,良好状态的概率为多少?若有 100台机器: 问配备多少个机修工人才能使机器待修的可能性至多为 10%?(一天工人可以修理 2台机器)解: M107364.即 该系统是均匀马氏链,且为遍历:nijPij010对 ,;()可设 由定理 3.1:知ijjPlm(),2数学模型 - 113 -14.03.67212解方程组 213答: 不管各台机器处于什么状态,到 n天以后,机器处于良好状态为 ,处于不良状态为由于机器处于不良状
