1、不确定性推理,确定是相对的！ 不确定是绝对的！,不确定性推理的基本概念,不确定性推理：建立在不确定性知识和证据的基础上的推理，是一种从不确定的初始证据出发，通过运用不确定性知识，最终推出具有一定程度的不确定性但又是合理或基本合理的结论的思维过程。,为什么要讨论不确定性推理,推理时所需的知识不完备，不精确。 推理所需的知识描述模糊。 多种原因导致同样的结论。 人的推理方式多为不确定的。,不确定性推理的基本问题,确定性推理： 问题的描述 推理的方法 推理方向 控制策略,不确定性推理： 问题的描述-不确定的知识如何表示，如何度量？ 推理的方法-不确定问题推理方法与确定问题是否相同？ 推理方向- 控制
2、策略-,不确定性推理的新问题,不确定知识的表示-包括知识的不确定性表示和证据的不确定性表示。 不确定性的匹配问题-事实与可用的知识的匹配，由于两者都具有不确定性，而且不确定性的程度可能不同，如何才算匹配成功？,不确定性推理的新问题,组合证据的不确定性计算-例如推理时，一般用证据与知识的前提条件匹配，而知识的前提条件可能是单一的，也可能是复合的。如果前提条件是复合的情况，就需要一组证据支持，而这组证据的不确定性不同，复合证据的不确定性的描述如何确定？,不确定性推理的新问题,不确定性的更新-证据、知识都带有不确定性，产生如下两个问题： 推理的每一步如何利用证据和知识的不确定性计算结论的不确定性？
3、在整个推理过程中如何把初始证据的不确定性传递给最终结论？,不确定性推理的新问题,不确定性结论的合成-推理过程中，可能会出现由多个不同的途径推出同一结论，但不确定性可能不同，此时我们需要对结论的不确定性进行合成计算。 以上是不确定性推理时需要考虑的一些基本问题，但不是所有的不确定推理都要解决这些问题。,不确定性推理的主要方法,目前不确定性推理的方法主要分为如下两大类-数值方法和非数值方法。 数值方法的基本思路是用数值对不确定性进行定量表示和处理。此类方法是目前人工智能研究不确定性推理的主要方向，根据描述不确定性的理论基础这种方法又分为两类： 基于概率的模型：确定性理论，主观Bayes方法，证据理
4、论等 模糊推理,概率方法,概率论：概率论是一种具有严格数学基础的，处理不确定对象但具有统计规律的数学工具。 事件发生的可能性用概率来描述。 已知一个事件发生的条件下，另一个事件发生的可能性用条件概率来描述。 QR 是不确定性的比较恰当的不确定性度量是P(R/Q)。,经典概率方法,知识使用产生式表示：IF E THEN H P(H/E) 如果E=E1 AND E2 AND。 AND En 则结论的不确定性由P(H/E1 ,E2 ,。,En)确定。 但P(H/E)需要通过统计数据求得，往往比较困难。,全概率公式,设事件A1,A2, An满足： 任意两个事件互不相容; P(Ai)0 i=1,2,n;
5、 D=Ai。 则对任意事件B有：P(B)=P(Ai)P(B/Ai),Bayes公式,设事件A1,A2, An满足： 任意两个事件互不相容; P(Ai)0 i=1,2,n; D=Ai。 则对任意事件B有：,Bayes公式,其中P(Ai)是事件Ai 的先验概率，P(B)是事件B的先验概率，P(B/Ai)是条件概率。 将产生式规则 IF E THEN H P(H/E) 中的P(H/E) 用Bayes公式可以表达为,Bayes推理,先验概率：通常称为非条件概率，是指没有知识支持，事件发生的概率。 后验概率：通常又称为条件概率，是给定一些证据的条件下事件发生的概率。,Bayes推理,经典概率方法中P(H
6、/E)不好求，可以用P(E/H)由Bayes公式求得。一般后者要比前者容易得到。 E表示咳漱，H表示气管炎。则P(H/E)：如果咳漱，是气管炎的概率。P(E/H)：气管炎咳漱的概率。,Bayes推理-示例,例如：令E表示汽车轮胎发出刺耳噪音，H表示汽车的刹车失调。如果汽车轮胎发出刺耳噪音则汽车刹车失调的可能性。 设 P(E)=0.04, P(H)=0.05, P(E/H)=0.7则P(H/E)=P(H)P(E/H)/P(E)=0.05*0.7/0.04=0.88,Bayes推理-示例,已知： 一般人得癌症的概率 P(Cancer)=0.008 是癌症化验是阳性的概率 P(/Cancer)=0.
7、98 不是癌症化验是阳性的概率P(/Cancer)=0.03 现在有一个病人化验为阳性，是否可以判断是癌症？,Bayes推理-示例,解：比较如下两个概率：P(Cancer/)P(Cancer/)的大小,Bayes推理-示例,P(Cancer/)=P(/Cancer)P(Cancer)/(P(/Cancer)P(Cancer)+ P(/Cancer)P(Cancer)=(0.992*0.03)/(0.98*0.008+0.03*0.992)=0.79 P(Cancer/)=P(/Cancer)P(Cancer)/(P(/Cancer)P(Cancer)+ P(/Cancer)P(Cancer)=
8、(0.98*0.008)/(0.98*0.008+0.03*0.992)=0.21,主观Bayes方法,进一步，先验概率P(E),P(H)也需要通过大量的数据计算，比较两者获得的难度，前者要难于后者，其原因是前者可能由多种原因引起。 为了简化先验概率的计算，对Bayes方法作些改进，由此R.O.Duda于1976年提出主观Bayes方法，并成功应用于专家系统PROSPECTOR中。,几率,P(H/E)=1-P(H/E)=1-P(E/H)P(H)/P(E)=(P(E)-P(E,H)/P(E)=(P(E,H)+P(E,H)-P(E,H)/P(E)=P(E,H)/P(E)=P(E/H)P(H)/P(
9、E),几率,定义事件X的几率为：,引入记号：,则有：O(H/E)=LS*O(),充分性因子,我们称LS是规则IF E THEN H的充分性因子。其用来指示规则强度的几 率，即E成立时对H的影响力；O(H/E)=LS*O()称为Bayes理论的几率公式，指出结论的后验几率可以由其先验几率和规则的充分性因子LS来计算。,必要性因子,类似充分性因子的定义，可以定义必要性因子LN。,则有：O(H/E)=LN*O(H)，此式给出了E不成立时对H的影响程度。,LS的性质,LS： LS1： O(H/E)O(H)，表明E支持H，LS越大，E对H的支持越充分。 LS1：O(H/E)O(H)，表明E不支持H。 L
10、S=1： O(H/E)=O(H)，表明E对H没有影响。 LS=0： O(H/E)=0，说明E出现，则H一定不出现。 LS反映了E的出现对H为真的影响程度。,LN的性质,LN： LN1： O(H/E)O(H)，表明E支持H。 LN1：O(H/E)O(H)，表明E不支持H。 LN=1： O(H/E)=O(H)，表明E对H没有影响。 LN=0： O(H/E)=0，说明E不存在，导致H为假。 LN反映了E的出现对H为真的影响程度。,LS与LN的关系,E和E不同时支持或排斥H，因此有以下三种情况： LS1 and LN1; LS=LN=1.,一点说明,无论先验概率还是后验概率都需要大量的统计数据，有时甚
11、至无法得到。 LS和LN是指示规则强度，即前提对结论的影响程度，使得在缺乏统计数据的情况下，有经验的专家可以做近似的估计。 而一旦LS和LN给定，就可以由O(H/E)近似计算出P(H/E)，我们把根据专家主观估计值LS和LN计算出的后验概率称为主观概率。,由O(H/E)计算P(H/E),由几率的定义知：O(H/E)= P(H/E)/ P(H/E)= P(H/E)/（1-P(H/E)） 所以有：P(H/E)=O(H/E)/（1+O(H/E)）,证据的不确定性表示,主观Bayes方法中证据E的不确定性用其概率或几率表示。 有些情况需要考虑在当前观察S下证据E的后验概率P(E/S)。但概率不易求得，
12、一般采用变通的方法得到。,证据的不确定性表示,专家系统PROSPECTOR中引入可信度C(E/S)： C(E/S)=-5，表示在观察S下证据E肯定不存在，即P(E/S)=0。 C(E/S)=0，表示观察S与证据E无关，即P(E/S)=P(E)。 C(E/S)=5，表示在观察S下证据E肯定存在，即P(E/S)=1。 C(E/S)为其它值时可以通过上述三点进行分段线性插值得到。,证据的不确定性表示,C(E/S),P(E/S),P(E),-5,5,1,P(E/S)的计算,组合证据不确定性的计算,证据E=E1VE2VV Ek时：P(E/S)=maxP(E1/S), P(E2/S), P(Ek/S) 证
13、据E=E1E2Ek时：P(E/S)=minP(E1/S), P(E2/S), P(Ek/S),不确定性的更新,主观Bayse方法推理，使用规则时根据前提条件的不确定性和结论的先验概率或先验几率确定结论的后验概率或后验几率。 前提条件肯定为真时，即P(E/S)= P(E)=1则O(H/E)=LS* O(H)P(H/E)=LS* P(H)/(LS-1)* P(H)+1),不确定性的更新,前提条件肯定为假时，即P(E/S)= P(E)=0则O(H/E)=LN* O(H)P(H/E)=LN* P(H)/(LN-1)* P(H)+1) 证据为不确定性时，由全概率公式P(H/S)=P(H/E)*P(E/S
14、)+P(H/E)*P(E/S)及前面讨论的结论有： P(E/S)=1,P(H/S)=P(H/E) P(E/S)=0,P(H/S)=P(H/E) P(E/S)=P(E),P(H/S)=P(H),不确定性的更新,通过以上的三个点进行线性插值计算得到P(H/S)计算公式，称为EH公式：,不确定性的更新,证据的不确定性使用C(E/S)描述时上公式由如下公式替代。我们称为CP公式。,不确定性的更新,P(E/S),P(H/S),P(E),P(H/E),1,P(H/E),P(H),结论的不确定性合成,当有多条知识都支持一个结论H，并且每个知识的前提条件是独立的，而每个证据所对应的观察不同。求H的后验概率的方
15、法是： 使用每条知识分别求出H的后验几率O(H/Si). 利用已计算出的后验几率按如下公式求出所有观察下的后验后验几（概）率。,示例,设有如下规则： r1: IF E1 THEN (2,0.0001) H1 r2: IF E1 AND E2 THEN (100,0.0001) H1 r3: IF H1 THEN (200,0.01) H2 已知：专家给出：O(H1)=0.1 O(H2)=0.01用户回答：C(E1/S1)=2 C(E2/S2)=1 求：O(H2/S1,S2)=?,示例,解：规则我们可以画出推理网络。,E1,E2,And,H1,H2,0.01,0.1,(200,0.01),(10
16、0,0.0001),(2,0.0001),2,1,示例,计算O(H1/S1)P(H1)=O(H1)/(1+O(H1)=0.1/(1+0.1)=0.091P(H1/E1)=O(H1/E1)/(1+O(H1/E1)=LS*O(H1)/(1+LS*O(H1)=2X0.1/(1+2X0.1)=0.167C(E1/S1)=20，使用CP公式P(H1/S1)=P(H1)+(P(H1/E1)-P(H1)XC(E1/S1)/5=0.091+(0.167-0.091)*2/5=0.121,示例,O(H1/S1)=P(H1/E1)/(1-P(H1/E1)=0.121/(1-0.121)=0.138 计算O(H1/
17、S1 AND S2 )规则r2的前提条件是E1和E2的合取，按照取最小原则，只考虑E2的影响，如此将计算O(H1/S1 AND S2 )的问题转化为O(H1/S2)同上可计算得：,示例,P(H1/E2)=0.909P(H1/S2)=0.255O(H1/S2)=0.341 计算O(H1/S1 ， S2 ),示例,计算O(H2/S1,S2 ) 比较O(H1/S1,S2 )和O(H1)知P(H1/S1,S2 )P(H1) 所以,示例,P(H2)=O(H2)/(1+O(H2)=0.01 P(H1/S1, S2)=O(H1/S1, S2)/(1+O(H1/S1, S2)=0.32 P(H2/H1)=O(H2/H1)/(1+O(H2/H1)=LS*O(H2)/(1+LS*O(H2)=0.667 P(H1/S1,S2 )=0.176 O(H2/S1,S2 )=0.214,
