1、,第7章 不确定性处理,7.1 不确定性及其类型 随机性 模糊性 不完全性 不一致性,第7章 不确定性处理,7.2 不确定性知识的表示 随机性知识的表示 随机性产生式规则的表示是在产生式规则的后面加上一个称为信度(或可信度)的0到1之间的数。一般表示形式为或其中 表示规则 为真的信度, 表示A为真的情况下B为真的信度。一般可以以概率作为信度。,第7章 不确定性处理,例 如果乌云密布并且电闪雷鸣,则天要下暴雨;(0.95) 如果头痛发烧,则患了感冒;(0.8)7.2.2 模糊知识的表示 模糊不确定性通常用隶属度表示,隶属度表示对象具有某种属性的程度。隶属度可以与谓词逻辑、产生式规则、框架、语义网
2、络等结合起来表示模糊不确定性。,第7章 不确定性处理,模糊产生式规则 “如果患者有些头疼并且发高烧,则他患了重感冒” 可表示为:(患者,症状,(头疼,0.95) (患者,症状,(发烧,1.1) (患者,疾病,(感冒,1.2) 模糊谓词 普通谓词加上程度表示。例:“Mary 很喜欢书”可表示为like1.2(mary, book),或1.2like(mary,book)。,第7章 不确定性处理,模糊框架 框架名:大枣属: (干果,0.8)形: (圆,0.7)色: (红,1.0)味: (甘,1.1)用途:食用药用:用量:约五枚用法:水煎服,第7章 不确定性处理,模糊语义网,狗,食肉动物,理解人意,
3、(灵敏,1.5),(can,0.3),(AKO,0.7),嗅觉,第7章 不确定性处理,7.2.3 模糊集合与模糊逻辑 模糊逻辑 传统二值逻辑的模糊推广。定义命题的真值为对象具有该属性的隶属度。设一个n元模糊谓词 , 则其真值定义为具有属性P的隶属度,即:对模糊命题,可定义逻辑运算为,第7章 不确定性处理,逻辑或逻辑非,第7章 不确定性处理,7.2.4 多值逻辑 Kleene三值逻辑,第7章 不确定性处理,7.2.5 非单调逻辑 推理中的结论并不总是单调增加的。 7.2.6 时序逻辑 将时间概念(如“过去”,“将来”,“有时”等)引入逻辑,使命题的真值随时间变化。,第7章 不确定性处理,7.3
4、不确定性推理的一般模式 基于不确定性知识的推理称为不确定性推理。在一般推理的基础上,还要进行不确定性度量(如信度、隶属度等)的计算。 不确定性推理=符号模式匹配+不确定性计算 符号模式能否匹配成功,要求符号模式本身要匹配,而且不确定性要超过“阈值”。 推理过程中规则的触发要求前提匹配成功,并且前提条件的不确定性超过阈值。 推理结论是否成功取决与不确定性是否超过阈值。 主观Bayes方法,确定性理论(可信度方法)、证据理论等。,主观Bayes方法,在专家系统PROSPECTOR中成功应用。 知识的不确定性表示为,第7章 不确定性处理,7.4 确定性理论(可信度方法) 适用于随机不确定性的推理,在
5、专家系统MYCIN中成功应用。 C-F模型 1。知识不确定性的表示 If E Then H (CF(H,E) CF(H,E) 称为该条知识的可信度 (Certainty Factor), 取值范围为-1,1。 若CF(H,E)0,则说明前提条件E所对应的证据的出现增加了H为真的概率。CF(H,E)越大,H为真的可信度越大。若CF(H,E)=1,则表示E的出现使H为真。,第7章 不确定性处理,若CF(H,E)0,则说明E所对应的证据的出现减少了H为真的概率,即增加了H为假的概率。 CF(H,E)越小,H为假的可信度越大。若CF(H,E)=-1,则表示E的出现使H为假。 若CF(H,E)=0,则表
6、示 H与E独立,即E所对应的证据的出现对H没有影响。 实际应用中,CF(H,E)的值由领域专家直接给出。,第7章 不确定性的处理,2。证据不确定性的表示 证据的不确定性也用可信度因子表示。若证据肯定为真,则CF(E)=1;若证据肯定为假,则CF(E)=-1;其它情况则介于-1 与正1之间。 对组合证据,若E=E1 and E2 andand En, 则CF(E)=minCF(E1),CF(E2),CF(En) 若 E=E1 OR E2 OR OR En,则CF(E)=maxCF(E1),CF(E2),CF(En),第7章 不确定性的处理,推理中结论的不确定性的计算CF(H)=CF(H,E)ma
7、x0,CF(E)若CF(E)0, 则CF(H)=0;若CF(E)=1, 则CF(H)=CF(H,E) 结论不确定性的合成算法。当有多条知识推出相同结论时,总的不确定性可利用公式计算。,第7章 不确定性的处理,如果有两条知识:IF E1 THEN H (CF(H,E1)IF E2 THEN H (CF(H,E2) 则H的总的信度可分两步 (1)、分别计算每一条知识的CF(H):CF1(H)=CF(H,E1) max0,CF(E1)CF2(H)=CF(H,E2) max0,CF(E2),第7章 不确定性的处理,总的可信度可计算为,例 设有如下一组知识:r1: IF E1 THEN H (0.8)r
8、2: IF E2 THEN H (0.6)r3: IF E3 THEN H (0.5)r4: IF E4 AND (E5 OR E6) THEN E1 (0.7)r5: IF E7 AND E8 THEN E3 (0.9),第7章 不确定性的处理,已知:CF(E2)=0.8 CF(E4)=0.5, CF(E5)=0.6CF(E6)=0.7, CF(E7)=0.6, CF(E8)=0.9 求CF(H). 带有阈值的不确定性推理 知识不确定性的表示If E Then H (CF(H,E),) 其中可信度因子CF(H,E) 在(0,1之间; 是阈值,0 1. 只有当前提条件E的可信度CF(E) 时,
9、相应的知识才能被利用。,第7章 不确定性处理,证据不确定性的表示 也使用可信度表示,但取值范围为0,1。复合证据不确定性的计算法同前。 结论不确定性的计算方法 当可信度CF(E) 时,结论H的可信度CF(H)=CF(H,E)CF(E),第7章 不确定性的处理,结论不确定性的合成算法 当有n条规则有相同的结论时,即IF E1 THEN H (CF(H,E1), 1)IF E2 THEN H (CF(H,E2), 2)IF En THEN H (CF(H,En), n) 如果都满足CF(Ei) i ,则首先求出每条规则的结论的可信度,第7章 不确定性的处理,结论H的综合可信度可由下列方法之一求出:
10、 (1)求极大值(2) 加权求和法(3) 有限求和,第7章 不确定性的处理,加权的不确定性推理 当条件的重要性程度不一样时,可以使用加权的规则表示知识,一般形式为其中, 是加权因子, 是阈值,均由领域专家给出。权值一般满足条件,第7章 不确定性的处理,加权的不确定性推理 组合证据不确定性的算法 如果前提条件则其可信度为如果,第7章 不确定性的处理,则结论的不确定性 当一条知识的 时,结论的可信度为其中“”可以是相乘预算或“取极小运算”。,第7章 不确定性的处理,加权的不确定性推理 加权因子的引入不仅解决了证据的重要性、独立性的问题,而且还解决了证据不完全的推理问题,并为冲突消解提供了一种解决途
11、径。,例、设有如下知识:r1: IF E1(0.6) and E2(0.4) then E6(0.8,0.75)r2: IF E3(0.5) and E4(0.3) and E5(0.2) then E7 (0.7, 0.6)r3: IF E6(0.7) and E7(0.3) then H(0.75,0.6) 已知:CF(E1)=0.9, CF(E2)=0.8, CF(E3)=0.7, CF(E4)=0.6, CF(E5)=0.5. 求:CF(H)=?,第7章 不确定性的处理,前提条件中带有可信度因子的不确定性推理 知识不确定性的表示或其中 为子条件 的可信度。,第7章 不确定性的处理,不确
12、定性的匹配算法 (1)。不带加权因子 如果存在证据 , 则当时,证据与知识匹配。 (2)。带加权因子,第7章 不确定性的处理,结论的不确定性计算 不带加权因子如果知识的前提条件与证据匹配成功,则带加权因子,第7章 不确定性的处理,7.5 证据理论 D-S证据理论 证据理论用集合表示命题。对象的所有可能取值的集合称为样本空间(识别框架)。样本空间的任何一个子集都表示一个命题。 1、基本概率分配函数设D为样本空间,D的所有子集组成的集合记为 。,7.5 证据理论,D-S证据理论 定义 函数 若满足: 则称m为 上的基本概率分配函数。 为 A 的基本概率数。 基本概率分配函数不是概率函数。见例。 概
13、率分配函数的基本作用是对命题进行可信度分配。,7.5 证据理论,D-S证据理论 2、信任函数定义 信任函数定义为 , 且满足信任函数又称为下限函数, 表示命题A为真的信任程度。,7.5 证据理论,D-S证据理论 信任函数的性质 1、 2、3、递增性。若 ,则 4、 。 为 A的补集。,7.5 证据理论,D-S证据理论 似然函数 定义 似然函数 定义为似然函数又称为上限函数。 表示对A为非假的信任程度。 似然函数的性质1、,7.5 证据理论,D-S证据理论 似然函数的性质 2、 3、 信任区间 区间 称为A的信任区间,表示对A信任的上下限。,7.5 证据理论,D-S证据理论 一些特殊的信任区间:
14、1,1:表示A为真;0,0:表示A为假;0,1:表示对A一无所知;0.5,0.5:表示A是否为真是完全不确定的;0.25,0.85:表示对A为真的信任程度比对A为假的信任程度稍高一些。0.25,1:表示对A为真有0.25的信任度。,7.5 证据理论,概率分配函数的正交和(Dempster 组合规则) 定义 设m1 和 m2 是两个概率分配函数,则其正交和 为其中,7.5 证据理论,D-S证据理论 如果 , 则m也是一个概率分配函数;如果 ,则不存在正交和,称m1与m2矛盾。 例。见书。,7.5 证据理论,一个基于证据理论的不确定推理模型 概率分配函数和类概率函数 样本空间 上的概率分配函数满足
15、下面要求:(1)、(2)、(3)、(4)、当 且 或 时,,7.5 证据理论,显然,在此概率分配函数中,只有单个元素构成的子集及样本空间本身的函数值才有可能大于0。其它子集的概率分配数均为0。 性质,7.5 证据理论,对任何集合A和B,都有定义 命题A的类概率函数为其中|A|表示集合A中元素的个数。,7.5 证据理论,类概率函数的性质 (1)、 (2)、(3)、(5)、,7.5 知识不确定性的表示,在该模型中,不确定的知识可表示为H是结论,用样本空间 中的子集表示。CF是可信度因子,满足,7.5 证据理论,证据的不确定性 证据E的不确定性用CER(E)表示,取值范围为0,1。 结论不确定性的计
16、算 (1)、求H的概率分配函数。,7.5 证据理论,如果有两条知识支持同一结论,即:则分别计算出每一条知识的概率分配函数:对m1和m2求正交和得到H的概率分配函数m。,7.5 证据理论,结论不确定性的计算 (2)、求出信任函数、似然函数和类概率函数(3)、H的确定性其中, 是知识的前提条件与,7.5 证据理论,相应证据的匹配度,定义为,实际计算时,采用辨别框的方法。 例 设有如下知识:r1: IF E1 and E2 then G=g1,g2 CF=0.2,0.6r2: IF G and E3 then A=a1,a2 CF=0.3,0.5r3: IF E4 and (E5 or E6) th
17、en B=b1 CF=0.7r4: IF A then H=h1,h2,h3 CF=0.2,0.6,0.1r5: IF B then H=h1,h2,h3 CF=0.4,0.2,0.1,7.5 证据理论,已知初始数据的确定性: CER(E1)=0.7, CER(E2)=0.8, CER(E3)=0.6 CER(E4)=0.9, CER(E5)=0.5, CER(E6)=0.7 假设辨别框中元素的个数为10, 求 CER(H)=? 证据理论的特点 比概率论更弱的公理体系; 能处理由“不知道”所引起的不确定性; 辨别框太大时,计算复杂。,模糊理论(补充内容),模糊集与隶属函数 模糊性是指客观事物在
18、性态及类属方面的不分明性,类似事物间存在一系列过度状态,它们互相渗透,彼此之间没有明显的分界线。 普通集合可用其特征函数表示。设A是论域U上的一个集合,对任意 , 令则称 为集合A的特征函数。,模糊集与隶属函数,定义 设U是论域, 是定义在U上而取值为0,1之间的函数,即则称 为定义在U上的一个隶属函数,由 所确定的集合 称为U上的一个模糊集, 称为u对A的隶属度。,模糊集与隶属函数,模糊集的表示方法 若论域是离散的有限集 , 其模糊集可表示为也可以表示为或,模糊集与隶属函数,或表示为或若论域是连续的,则模糊集用函数表示。例如“年老”与“年轻”两个模糊概念可表示为,模糊集与隶属函数,无论是连续
19、还是离散,有限或无限,都可以统一表示为模糊集的运算 包含。若对任意 , 都有 , 则称A包含B,记为,模糊集的运算,并、交、补运算 设A,B为论域U上的两个模糊集,它们的并、交、补也是模糊集,分别记为 , 和 , 它们的隶属函数分别为,模糊集的水平截集,设A是论域U上的模糊集, , 则称普通集合为A的一个水平截集。 水平截集的性质: 1。 ; 2。若 , 则,模糊集的水平截集,设A是论域U上的一个模糊集,称分别为模糊集A的核及支集。当 时,称A为正规模糊集。,模糊数,如果实数域R上的模糊集A的隶属函数 在R上连续且具有如下性质: (1) A是凸模糊集,即对任意 ,A的水平截集 是闭区间; (2
20、) A是正规模糊集,即存在 ,使则称A为一个模糊数。 模糊数的隶属函数是单峰函数。例如模糊数“6左右”可用隶属函数表示:,模糊数,模糊数的运算 设是实数域R上的一种二元运算,A和B为两个模糊数,则它们之间的运算结果也是一个模糊数,其隶属函数为模糊数的四则运算:+,-,,模糊关系及其合成,定义 设 是 上的模糊集,则称为 的笛卡尔乘积,它是 上的一个模糊集。元模糊关系R是指论域 上的一个模糊集,记为,模糊关系及其合成,当 , 都是有限论域时,其上的二元模糊关系R可用一个矩阵表示,称为模糊矩阵,,模糊关系的合成,设 与 分别是 和 上的两个二元模糊关系,则 与 的合成是指从U到 W的一个模糊关系,
21、记为 , 其隶属函数为,建立隶属函数的方法,模糊统计法 把论域U划分为若干区间。 选择n个具有正确判断力的评判员,请他们分别给出模糊概念应该属于的区段。 假设n个评判员给出的区段中覆盖某个区间的次数为m,则当n足够大时,就可把m/n作为该区间中值对 A的隶属度。 对每个区间的中值点求出隶属度后,就可绘制出A的隶属度函数曲线。,建立隶属函数的方法,对比排序法 对有限论域,如果直接为每一个元素确定隶属度是困难的,则可通过对论域中的因素两两比较,确定一个元素相对于另一个元素隶属于该模糊概念的隶属度,然后对每一个元素的所有隶属度进行加权平均得到最后的隶属度。,建立隶属函数的方法,专家评判法 设论域 ,
22、 A是U上待定隶属函数的模糊集。 请 m位专家分别对每一个 给出一个隶属度的估计值 , 求出平均值及离差,建立隶属函数的方法,检查离差是否小于或等于事先指定的阈值 , 如果大于 , 则请专家重新给出估计值,然后再计算平均值和离差。重复这一过程,直到离差小于或等于 时为止。然后请专家给出自己所估计值的“确信度”,设为 , 求其平均值若 达到一定的阈值,则就以 作为 的隶属度,建立隶属函数的方法,基本概念扩充法 从基本模糊概念的隶属函数出发,通过一些运算导出其它相关模糊概念的隶属函数。 例。假设已知“大”的隶属函数 , 则,模糊推理,模糊推理是利用模糊性知识进行的不确定性推理 模糊命题 含有模糊概
23、念、模糊数据或带有确信程度的语句称为模糊命题。模糊命题的一般表示形式为或,模糊命题,其中x是论域上的变量;A是模糊概念或模糊数;CF是该模糊命题的确信度或可能性,可以是一个确定的数,也可以是一个模糊数或模糊语言值。 模糊语言值是一些表示大小、长短、高矮、轻重、快慢、多少等程度的词汇。,模糊命题,模糊知识的表示 模糊产生式规则的一般形式If E Then H (CF, ) E是用模糊命题表示的模糊条件,可以是多个模糊命题构成的复合条件。 H是模糊命题表示的模糊结论。CF是规则的可信度因子,可以是确定的数、模糊数或模糊语言值。 推理中所用的证据也是用模糊命题表示。,模糊匹配与冲突消解,在进行证据与
24、规则前提匹配时,要计算两个模糊集所表示的模糊概念的相似程度,称为匹配度。 匹配度的计算 贴近度指两个模糊概念互相贴近的程度。设A,B分别是论域 上的表示相应模糊概念的模糊集,它们的贴近度定义为,模糊匹配与冲突消解,其中匹配度越大表示越匹配,模糊匹配与冲突消解,语义距离 Hamming距离有限论域:论域为闭区间a,b:,模糊匹配与冲突消解,语义距离 欧几里德距离Minkowski距离,模糊匹配与冲突消解,语义距离 切比雪夫距离相似度 设A,B分别是论域U上的两个模糊集,A与B之间的相似度可用以下方法计算 最大最小法,模糊匹配与冲突消解,算术平均最小法几何平均最小法相关系数法,模糊匹配与冲突消解,
25、其中,指数法对复合条件证据的匹配,可对每个子条件算出匹配度,然后利用公式(如求最小、乘积;最大、求和)计算出总的匹配度。,模糊匹配与冲突消解,冲突消解策略 按匹配度大小排序 按加权平均值排序 按广义顺序关系排序,模糊推理的基本模式,模糊假言推理 设A、B分别是论域U、V上的模糊集合,模糊假言推理的一般模式为知识: If x is A then y is B 证据: x is 结论: y is,模糊推理的基本模式,模糊拒取式推理 设A、B分别是论域U、V上的模糊集合,模糊拒取式推理的一般模式为知识: If x is A then y is B 证据: y is 结论: x is,模糊推理的基本模
26、式,模糊三段论推理 设A、B、C分别是论域U、V、W上的模糊集合,模糊三段论推理的一般模式为If x is A then y is B If y is B then z is C If x is A then z is C,简单模糊推理,合成推理规则 在模糊假言推理和模糊拒取式推理中,首先构造出A与B之间的模糊关系R。对假言推理,结论为: y is , 的计算公式为对模糊拒取式推理,结论为: x is , 的计算公式为,简单模糊推理,推理中构造模糊关系R的方法 Zadeh 方法 极大极小规则算术规则对于模糊假言推理,若已知证据为: x is 则由 , 推出的 结论分别为,简单模糊推理,它们的隶
27、属函数分别为对于模糊拒取式推理,若已知证据为: y is , 则由 , 求得的 及 分别为,简单模糊推理,它们的隶属函数分别为,简单模糊推理,Mamdani方法 条件命题的最小运算规则对模糊假言推理,结论为,简单模糊推理,Mamdani方法 对模糊拒取式,结论为Mizumoto方法 一组借鉴多值逻辑中计算逻辑蕴含式思想的模糊关系构造方法。,简单模糊推理,Mizumoto方法 1。其中,2。,简单模糊推理,Mizumoto方法 其中3。4。,简单模糊推理,5。6。,简单模糊推理,7。 8。其中,9。其中,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 I.知识: If x is A th
28、en y is B 证据: x is A结论: y is B,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 II.知识: If x is A then y is B 证据: x is very A结论: y is very B或 y is B,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 III.知识: If x is A then y is B 证据: x is more or less A结论: y is more or less B或 y is B,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 IV.知识: If x is A then y is B 证据:
29、 x is not A结论: y is unknown或 y is not B,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 V.知识: If x is A then y is B 证据: y is not B结论: x is not A,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 VI.知识: If x is A then y is B 证据: y is not very B结论: x is not very A,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 VII.知识: If x is A then y is B 证据: y is not more or
30、less B结论: x is not more or less A,各种模糊关系的性能分析,模糊推理时所依据的一些基本原则 VIII.知识: If x is A then y is B 证据: y is B结论: x is unknown或 x is A,各种模糊关系性能的分析,对模糊假言推理, 的性能较好, 次之, 与 较差。 对模糊拒取式, 的性能比较好, 次之, 与 最差。 综合之, 性能比较好, 次之,其它性能较差。,模糊三段论推理,模糊三段论的推理中,应有模糊关系的构造方法,有些满足三段论,有的不满足。,多维模糊推理,多维模糊推理是指前提条件是复合条件的模糊推理 知识:If is a
31、nd is andand is then y is B 证据: is and is andand is 结论: y is,多维模糊推理,Zadeh方法 (1)、求出 , , 的笛卡尔乘积,并记为A,(2)、用前面讨论的任何一种构造模糊关系的方法构造出A与B之间的模糊关系,记为,多维模糊推理,(3)、求出证据中 的笛卡尔积,记为 。 (3)、由 与 的合成求出 , 即,多维模糊推理,Tsukamoto方法 首先对复合条件中的每一个简单条件按简单模糊推理求出相应的 ,即然后再对各 取交得到,多维模糊推理,Sugeno方法 通过递推计算求出 ,,带有可信度因子的模糊推理,既有模糊不确定性,又有随机不
32、确定性。知识: If x is A then y is B CF1证据: x is CF2结论: y is CF 其中的可信度因子可以是0,1上确定的数,也可以是模糊数或模糊语言值。,带有可信度因子的模糊推理,模糊推理使用前面介绍的方法 可信度的计算 当 时, (1) ; (2) ; (3) ; 模糊数与模糊语言值的计算可通过隶属函数定义。确定数与模糊数或模糊语言值之间的运算可先把确定数化为模糊数后进行。例如确定数1可表示为模糊集1/1。,带有可信度因子的模糊推理,可信度的计算 当 时, 设用 表示 的匹配度,则结论的可信度因子可用如下公式之一计算: (1) ; (2) ; (3) ; (4)
33、 ;,作业,1. P170, 7,8 2. 设有如下推理规则: R1: If E1 and E2 then A=a (CF=0.8) R2: If E2 and (E3 or E4) then B=b1,b2 (CF=0.4,0.5) R3: If A then H=h1,h2,h3 (CF=0.2,0.3,0.4) R4: If B then H=h1,h2,h3 (CF=0.3,0.2,0.1) 且已知初始证据的的确定性分别为:CER(E1)=0.5, CER(E2)=0.6,CER(E3)=0.7, CER(E4)=0.8. 假设|D|=10, 求CER(H)=?,作业,3。P171, 9题(用Rm,Rc,Ra,Rs推理),作业,4。设论域U=V=1,2,3,4,5,6,且有如下模糊规则:If x is A then y is B。 设已知事实为: x is 。 其中A,B, 的模糊集分别为:A=1/1+0.8/2+0.6/3+0.3/4B=0.5/3+0.7/4+0.9/5+1/6=0.9/1+0.8/2+0.5/3+0.2/4 请分别用 求出模糊结论,并对这些方法进行性能比较。,