1、人工智能,Artificial Intelligence,第六讲,2018/4/7,安徽大学 计算机科学与技术学院,2,第三章 高级知识推理,3.1 经典推理和非经典推理3.2 非单调推理3.3 时序推理,3.4 不确定性推理3.5 概率推理3.6 主观Bayes方法,3.7 可信度方法3.8 证据理论,2018/4/7,安徽大学 计算机科学与技术学院,4,3.4 不确定性推理,3.4.1 不确定性推理的度量1.不确定性的表示(1)知识不确定性的表示：准确描述；便于推理(2)证据不确定性的表示：动态强度，如灰白色(3)结论不确定性的表示：不确定性程度2.不确定性的度量充分表达；便于估计；便于传
2、递；直观+理论依据,2018/4/7,安徽大学 计算机科学与技术学院,5,3.4 不确定性推理,3.4.2 不确定性的算法1.不确定性的匹配算法：怎么才算匹配成功？2.不确定性的更新算法,(1) If E(C(E) Then H f(H,E) 求C(H)=g1C(E),f(H,E)?(2) If E1(C(E1) Then H f(H,E1); If E2(C(E2) Then H f(H,E2)求C(H)=g2C1(H),C2(H)?(3) If E1(C(E1)and E2(C(E2) Then H f(H,E1andE2)求C(E1E2)=g3C(H1),C2(H2)?(4) If E1
3、(C(E1)or E2(C(E2) Then H f(H,E1orE2)求C(E1E2)=g3C(H1),C2(H2)?,2018/4/7,安徽大学 计算机科学与技术学院,6,3.4 不确定性推理,3.4.2 不确定性的算法,最大最小法：C(E1E2)=minC(E1),C(E2)C(E1E2)=maxC(E1),C(E2)概率方法：C(E1E2)=C(E1)*C(E2)C(E1E2)=C(E1)+C(E2) - C(E1)*C(E2)有界方法：C(E1E2)=max0, C(E1)+C(E2)-1C(E1E2)=minC(E1),C(E2),2018/4/7,安徽大学 计算机科学与技术学院,
4、7,3.5 概率推理,3.5.1 概率的基本性质和计算公式,概率的基本性质：对任何事件A，有：0 P(A) 1必然事件D， P(D)=1；不可能事件 ， P()=0P(AB)=P(A)+P(B)-P(AB)若 AiBj=(ij)，则P(Ai)=P(A1)+ P(An)若 AB， P(AB)=P(A)-P(B)P(A)=1-P(A),2018/4/7,安徽大学 计算机科学与技术学院,8,3.5 概率推理,3.5.1 概率的基本性质和计算公式,概率的常用计算公式：(1) 条件概率与乘法公式： P(A|B)=P(AB) /P(B) 当P(B)0 P(A|B)=0 当P(B)=0变换：P(AB) =
5、P(B)*P(A|B)= P(A)*P(B|A)当P(A)0， P(B)0P(A1A2An)简写为： P(A1A2An)P(A1A2An)= P(A1) P(A2|A1)P(A3|A1A2) P(An|A1A2 An-1)当P(A1A2An-1)0,2018/4/7,安徽大学 计算机科学与技术学院,9,3.5 概率推理,3.5.1 概率的基本性质和计算公式,(2) 独立性公式：若A与B满足P(A|B)=P(A)，则称事件A关于事件B是独立的这时若P(A)与P(B)同时大于0，则P(B|A)=P(B)，称 A、B相互独立。 P(AB) = P(A) P(B)(3) 全概率公式：若 BiBj=，
6、P(Bi)=1， P(Bi) 0 (Bi = ) P(A)= P(A|Bi )P(Bi)(i=1,2,)(4) Bayes公式： P(A|Bi )P(Bi)*P(Bj | A) = P(A)*P(Bj | A)= P(Bj)*P(A|Bj),2018/4/7,安徽大学 计算机科学与技术学院,10,3.5 概率推理,3.5.1 概率的基本性质和计算公式,A： 发热Bj：感冒 Bi ：肺炎 Bk：肠胃炎感冒的有多少发热；肺炎的有多少发热；肠胃炎的有多少发热,2018/4/7,安徽大学 计算机科学与技术学院,11,3.5 概率推理,3.5.2 概率推理方法,设： if E then H，已知：P(E
7、)，求P(H|E)?,若 if E then Hi， (i=1,2,n),若 if (E1E2 Em) then Hi， (i=1,2,n),2018/4/7,安徽大学 计算机科学与技术学院,12,3.5 概率推理,3.5.2 概率推理方法,例3.2 设H1,H2,H3为三个结论 ， E是支持这些结论的证据，且已知： P(H1)=0.3， P(H2)=0.4， P(H3)=0.5P(E|H1)=0.5， P(E|H2)=0.3， P(E|H3)=0.4求： P(H1|E)，P(H2|E)，P(H3|E)？,=(0.3*0.5)/(0.3*0.5+0.4*0.3+0.5*0.4)=0.15/(0
8、.15+0.12+0.2)=0.32,P(H2|E) =0.26， P(H3|E)=0.43,2018/4/7,安徽大学 计算机科学与技术学院,13,3.5 概率推理,3.5.2 概率推理方法,例3.3 已知： P(H1)=0.4， P(H2)=0.3， P(H3)=0.3P(E1|H1)=0.5， P(E1|H2)=0.6， P(E1|H3)=0.3P(E2|H1)=0.7， P(E2|H2)=0.9， P(E2|H3)=0.1求： P(H1|E1E2)，P(H2| E1E2)，P(H3| E1E2)？,=0.45,P(H2| E1E2) =0.52， P(H3| E1E2) =0.03,2
9、018/4/7,安徽大学 计算机科学与技术学院,14,3.6 主观贝叶斯方法,3.6.1 知识不确定性的表示,if E then (LS,LN) HLS=P(E|H)/P(E|H)充分性因子LN= P(E|H)/P(E|H)=1- P(E|H)/1-P(E|H)必要性因子,P(H|E)=P(E|H)P(H)/P(E)P(H|E)=P(E|H)P(H)/P(E)两式相除,几率：,2018/4/7,安徽大学 计算机科学与技术学院,15,3.6 主观贝叶斯方法,3.6.1 知识不确定性的表示,LS=P(E|H)/P(E|H)LN= P(E|H)/P(E|H)=1- P(E|H)/1-P(E|H),P
10、(H|E)=P(E|H)P(H)/P(E)P(H|E)=P(E|H)P(H)/P(E)两式相除,几率：,O(H|E)=LS*O(H)O(H|E)=LN*O(H),LS越大，O(H|E)就越大， P(H|E)也越大。若LS，则O(H|E) ， P(H|E) 1若LS0，则O(H|E) 0， P(H|E) 0若LS=1，则O(H|E)=O(H), P(H|E)=P(H)LN越大，O(H|E)就越大， P(H|E)也越大。若LN，则O(H|E) ， P(H|E) 1若LN0，则O(H|E) 0， P(H|E) 0若LN=1，则O(H|E)=O(H), P(H|E)=P(H),2018/4/7,安徽大
11、学 计算机科学与技术学院,16,3.6 主观贝叶斯方法,3.6.2 证据不确定性的表示,初始证据的获得例如：可信度C(E|S),-5 -4 -3 -2 -1 0 1 2 3 4 5 C(E|S),P(E),P(E|S),1,C(E|S)=-5P(E|S)=0C(E|S)=0P(E|S)=P(E)C(E|S)=5P(E|S)=1,2018/4/7,安徽大学 计算机科学与技术学院,17,3.6 主观贝叶斯方法,3.6.2 证据不确定性的表示,2018/4/7,安徽大学 计算机科学与技术学院,18,3.6 主观贝叶斯方法,3.6.2 证据不确定性的表示,2018/4/7,安徽大学 计算机科学与技术学
12、院,19,3.6 主观贝叶斯方法,3.6.2 证据不确定性的表示,Duda证明的公式：P(H|S)=P(H|E)P(E|S)+ P(H|E)P(E|S)当P(E|S)=1时: P(E|S)=0， P(H|S)=P(H|E)当P(E|S)=0时: P(E|S)=1， P(H|S)=P(H|E)当P(E|S)=P(E)时:P(H|S) = P(H|E)P(E|S)+ P(H|E)P(E|S) = P(H|E)P(E)+ P(H|E)P(E)=P(H),2018/4/7,安徽大学 计算机科学与技术学院,20,3.6 主观贝叶斯方法,3.6.2 证据不确定性的表示,0 P(E) 1 P(E|S),P(
13、H|S),P(H|E),P(H),P(H|E),2018/4/7,安徽大学 计算机科学与技术学院,21,3.6 主观贝叶斯方法,3.6.3 主观贝叶斯方法的推理过程,例3.4 已知下列规则：R1：IF E1 THEN (2,0.000001) H1R2：IF E2 THEN (100,0.000001) H1R3：IF H1 THEN (65,0.01) H2R4：IF E3 THEN (300,0.0001) H2O(H1)=0.1， O(H2)=0.01，C(E1|S1)=3，C(E2|S2)=1， C(E3|S3)=-2求： O(H2 |S1,S2,S3)=？,H2,H1,E3,E1,E
14、2,300, 0.0001,100, 0.000001,2, 0.000001,65, 0.01,S1,S2,S3,C(E1|S1)=3,C(E2|S2)=1,C(E3|S3)=-2,2018/4/7,安徽大学 计算机科学与技术学院,22,3.6 主观贝叶斯方法,例3.4(1) 计算O(H1|S1),P(H1)=O(H1)/1+ O(H1)=0.1/1.1=1/11P(H1|E1)= O(H1 |E1)/1+ O(H1 |E1)=LS1O(H1)/1+LS1O(H1)=2*0.1/1+2*0.1=1/6,=1/11+(1/6-1/11)*1/5*3=3/22O(H1|S1)= P(H1|S1)
15、/1- P(H1|S1)=3/22/(1-3/22)=3/19 0.158,2018/4/7,安徽大学 计算机科学与技术学院,23,3.6 主观贝叶斯方法,例3.4(2) 计算O(H1|S2),P(H1)=1/11上步已经计算P(H1|E2)= O(H1 |E2)/1+ O(H1 |E2)=LS2O(H1)/1+LS2O(H1)=100*0.1/1+100*0.1=10/11,=1/11+(10/11-1/11)*1/5*1=14/55 0.255O(H1|S2)= P(H1|S2)/1- P(H1|S2)=14/55/(1-14/55) =14/410.341,(3) 计算O(H1| S1,
16、S2) O(H1| S1,S2)= O(H1|S1)/O(H1)*O(H1|S2)/O(H1)*O(H1)= 3/19*14/41/0.1 =420/7790. 539,2018/4/7,安徽大学 计算机科学与技术学院,24,3.6 主观贝叶斯方法,例3.4(4) 计算O(H2|S1 , S2),P(H2)=O(H2)/1+ O(H2)=0.01/1.01=1/101 0.01P(H1 |S1 , S2)=O(H1 |S1 , S2)/1+ O(H1|S1,S2)= 420/779 /1+ 420/779=420/11990.35P(H2|H1)= O(H2 |H1)/1+ O(H2 |H1)
17、=LS3O(H2)/1+LS3O(H2)=65*0.01/1+65*0.01=13/33 0.394,=1/101+ (13/33-1/101) /(1-1/11)* (7/20-1/11) 0.12O(H2|S1 , S2)= P(H2| S1 , S2)/1- P(H2| S1 , S2)= 0.12/(1-0.12) 0.136,公式3.42,2018/4/7,安徽大学 计算机科学与技术学院,25,3.6 主观贝叶斯方法,例3.4(5) 计算O(H2|S3),P(H2|E3)= O(H2|E3)/1+ O(H2|E3)=LN4O(H2)/1+LN4O(H2)=0.0001*0.01/1+
18、 0.0001*0.01 10-6,=10-6+1/101-10-6-2/5+1 0.006 P(H2)从1/100降低到6/1000O(H2|S3)= P(H2|S3)/1- P(H2|S3) 0.006,(6) 计算O(H2| S1,S2,S3),O(H2| S1,S2,S3)= O(H2| S1,S2)/ O(H2)* O(H2| S3)/O(H2)*O(H2) 0.136*0.006/0.01=0.0816,2018/4/7,安徽大学 计算机科学与技术学院,26,3.6 主观贝叶斯方法,主观贝叶斯方法的优点：主观贝叶斯方法计算公式是基于概率的，具有坚实的理论基础；充分性因子LS和必要性因子LN是由专家给出的，可以全面反映证据和结论的因果关系；更新先验概率为后验概率，实现了不确定性的传递。主观贝叶斯方法的缺点：给出规则的同时，给出先验概率，比较困难；事件独立性的要求过于苛刻。,再见！,
