1、1,第2节 高光谱特征选择 武汉大学遥感信息工程学院 龚 龑,高光谱遥感第四章 高光谱数据处理,2,一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例,第四章 第2节 高光谱特征选择,3,通过对数据的评价，从若干个特征（波段）中挑选出用于高光谱遥感影像分析（分类）的有限个特征（波段）。,一、高光谱特征选择概述,1.1特征选择概念,4,目视法数值法,通过目视判读衡量影像质量,通过定量评估衡量影像质量,1.2特征选择类型,基于可分性准则的波段选择 基于光谱特征位置搜索的波段选择,基于统计计算，从分类角度出发,基于特定地物，从波谱空间出发,一、
2、高光谱特征选择概述,5,一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例,第四章 第2节 高光谱特征选择,6,从所有波段中选择一个波段子集，由该子集构成特征空间，在该特征空间中，各类别的光谱可分性在某一判据下达到最优。,二、基于可分性准则的波段选择,2.1主要思想,7,2.1主要思想,二、基于可分性准则的波段选择,8,穷举搜索法启发式搜索随机搜索法,2.2特征选择搜索方法类型,二、基于可分性准则的波段选择,9,1.穷举搜索法,通过穷举搜索，评价各个可能的特征子集的性能指标，找到其中最优的子集。,2.2特征选择搜索方法类型,二、基于可分性
3、准则的波段选择,10,方法直接，不会漏掉任一种可能子集。运算量巨大，随波段数增多凸显效率问题。,特点,2.2特征选择搜索方法类型,1.穷举搜索法,二、基于可分性准则的波段选择,11,鉴于穷举法的低效率问题，研究人员提出了启发式搜索。前向选择（Forward Selection）后向选择（Backward Selection）,2.2特征选择搜索方法类型,2.启发式搜索,二、基于可分性准则的波段选择,12,前向选择,波段子集,待选波段集合,波段子集初始状态为空 一次入选一个波段(该波段在当前剩余特征中最能提高可分性),评价因子（可分性判据）,2.启发式搜索,2.2特征选择搜索方法类型,二、基于可
4、分性准则的波段选择,13,波段子集,被排除的波段集,波段子集初始状态包含 所有特征 一次淘汰一个波段(该波段在当前被选中波段中最能降低可分性),评价因子（可分性判据）,后向选择,2.启发式搜索,2.2特征选择搜索方法类型,二、基于可分性准则的波段选择,14,前向选择与后向选择能否一定得到最具可分性的波段子集？,2.启发式搜索,2.2特征选择搜索方法类型,二、基于可分性准则的波段选择,15,前向选择与后向选择均能保证当前被选择波段子集在每一阶段最优，但面对那些复杂的、相互影响的波段，却不能保证所挑选的波段子集是全局最佳。,2.2特征选择搜索方法类型,2.启发式搜索,二、基于可分性准则的波段选择,
5、16,随机搜索法采用随机的或概率性的步骤或采样过程。 例如：基于种群的启发式搜索技术（遗传算法）规则推理系统,2.2特征选择搜索方法类型,3.随机搜索法,二、基于可分性准则的波段选择,17,分类器的学习算法,分类器在进行分类之前，需要利用一定的样本信息进行样本训练，使其形成分类判断标准，这一过程也称分类器的学习。,2.2特征选择搜索方法类型,3.随机搜索法,二、基于可分性准则的波段选择,18,滤波器类型和包装袋类型,根据特征选择算法是否独立于分类器的学习算法，可将其分为两种：滤波器类型和包装袋类型。,2.2特征选择搜索方法类型,3.随机搜索法,二、基于可分性准则的波段选择,19,形成分类标准的
6、同时 选择出波段子集,先选择出波段子集， 再形成分类标准,滤波器类型,包装袋类型,2.2特征选择搜索方法类型,3.随机搜索法,二、基于可分性准则的波段选择,20,选择多类别可分性特征时，一般有两个策略： 选择各类平均可分性最大的特征 选择对最难区分的类别具有最大可分性的特征,难以照顾到分布比较集中的类,可能会漏掉对各模式具有最大可分性的特征,2.3使用可分性准则的策略,二、基于可分性准则的波段选择,21,特征选择概念 特征选择搜索方法 穷举搜索法 启发式搜索 (前向搜素和后向搜索) 随机搜索法,使用可分性准则,小结,22,一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的
7、波段选择四、高光谱波段选择方法实例,第四章 第2节 高光谱特征选择,23,利用光谱位置搜索最常用的方法就是利用地物的波段吸收特性进行波段选择。,具有地物波谱特征的先验知识,波段选择针对特定目的 （生物物理化学特性分析或特定类别区分）,通常进行包络线去除,三、基于光谱特征位置的波段选择,24,包络线去除后的光谱曲线图,三、基于光谱特征位置的波段选择,利用波段吸收特性,25,一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例,第四章 第2节 高光谱特征选择,26,联合熵,第i 波段影像的熵值,三个波段的影像( i1, i2, i3) 的联合熵
8、,四、高光谱特征选择方法实例,4.1自动子空间划分法,一般来说联合熵H( i1, i1, i3) 越大, 图像所含信息越丰富。,对所有可能的波段组合计算其联合熵, 并按从大到小的顺序进行排序, 则联合熵最大的前面若干个就是最佳波段组合。,27,联合熵波段选择的结果, 使波段容易聚集在某一连续的波段间; 由于高光谱遥感数据的波段信息之间的强相关性, 使得多种波段组合方式具有相同的联合熵。,原因：波段间灰度接近，变化连续,联合熵,四、高光谱特征选择方法实例,4.1自动子空间划分法,28,解决上述问题的思路就是将全部波段划分为若干个子空间, 然后再进行波段选择。,将波段划分为若干子空间的方法很多,
9、最常见的是将波段按电磁波波长范围划分为若干子空间。,然而这种机械的划分方法没有考虑到地物的光谱特征和影像的局部特征, 因而不可取。,联合熵,四、高光谱特征选择方法实例,4.1自动子空间划分法,29,依据高光谱影像相关系数矩阵灰度图的“成块”特点, 根据高光谱影像相邻波段相关系数的大小, 把波段划分为若干个子空间, 然后分别在各个子空间内利用联合熵算法进行波段的选择。,自动子空间划分思路,四、高光谱特征选择方法实例,4.1自动子空间划分法,30,A.数据情况 采用OMIS高光谱影像数据, 波段数为64 个。要求生成伪彩色图。,四、高光谱特征选择方法实例,4.1自动子空间划分法,操作实践过程,B.
10、计算相关矩阵 依据自动子空间划分思想, 计算高光谱所有波段数据之间的相关矩阵, 该相关矩阵包含6464个元素。,31,为了更清晰地分析波段间的相互关系, 把第1 波段与各个波段间相关系数及近邻波段相关系数曲线绘出, 如图所示, 其中曲线为第1 波段与各个波段间相关系数曲线, 曲线为近邻波段相关系数曲线。,四、高光谱特征选择方法实例,4.1自动子空间划分法,操作实践过程,32,C.子空间划分 根据相关系数灰度图的分块特征, 将所有波段分成四个子空间: 第空间: 112,第空间: 1322, 第空间: 2356, 第空间: 5764。,4.1自动子空间划分法,操作实践过程,四、高光谱特征选择方法实
11、例,经过划分得到的不同子空间具有不同的维数,在每个子空间内的图像数据具有相近的光谱特性。,33,D.子空间内的波段选择 在各个子空间内, 根据信息熵大小选出能够代表该子空间的波段各一个 第空间: 12 第空间: 20 第空间: 24 第空间: 63,4.1自动子空间划分法,操作实践过程,四、高光谱特征选择方法实例,E.整体波段选择 对各个子空间所选出的代表波段, 计算三个波段之间的联合熵，选出最优的波段组合。,34,全局最优和局部最优问题混合搜索策略全局搜索阶段局部搜索阶段,四、高光谱特征选择方法实例,4.2混合随机搜索波段选择 (遗传算法+局部寻优),35,J2,J1,在给定起始位置的条件下
12、，按照某种判据寻找下一个更优位置,4.2混合随机搜索波段选择,局部最优和全局最优问题,四、高光谱特征选择方法实例,搜索,36,前向选择和后向选择容易陷入局部最优值,思考：穷举搜索法会不会陷入局部最优？,局部最优：一个矮山峰的山顶,全局最优：最高的山峰的山顶,对高光谱数据来讲穷举搜索法不可取,4.2混合随机搜索波段选择,局部最优和全局最优问题,四、高光谱特征选择方法实例,37,找到全局较大值位置P，避免陷入局部极小值,在位置P附近，进行局部邻域搜索找到极大值,4.2混合随机搜索波段选择,混合搜索策略,四、高光谱特征选择方法实例,a.全局粗略搜索,b.局部邻域搜索,全局搜索尽可能涉及更多的波段组合
13、形式局部搜索尽可能细致的找到极大值位置,跨度大,跨度小,38,采用遗传算法进行,染色体,生物进化,选择,交叉,变异,码串,自然选择过程,4.2混合随机搜索波段选择,全局粗略搜索阶段,四、高光谱特征选择方法实例,39,码串怎么定义？,4.2混合随机搜索波段选择,全局粗略搜索阶段,四、高光谱特征选择方法实例,40,从n个波段中，选择出m个构成波段组合波段选择的码串： b=(0,0, 1,0, 1,1,1,0,0) b中有n各分量，其中m个为1，n-m个为0 为1，表示该波段被选择 为0，表示该波段被舍弃,波段选择问题转化为最佳码串求取问题,4.2混合随机搜索波段选择,全局粗略搜索阶段,四、高光谱特
14、征选择方法实例,41,随机选择若干个（20-100）码串，构成码串集合B =b1,b2,bk,利用选择、交叉算子，迭代更新码串集合B,对码串集合B中的每个码串bi，计算bi 对应的波段组合的性能评估函数（可分性判据）J=J1,J2,Jk,输出Jp 最大值对应的的码串bp 得到波段选择方案,全局粗略搜索步骤,4.2混合随机搜索波段选择,全局粗略搜索阶段,四、高光谱特征选择方法实例,42,对全局搜索结果码串 bp = (0, 0,1,0,1, 1 )进行邻域搜索。,四、高光谱特征选择方法实例,4.2混合随机搜索波段选择,局部搜索阶段,43,4.2混合随机搜索波段选择,局部搜索阶段,四、高光谱特征选
15、择方法实例,每一次调换码串 bp = (0, 0,1,0,1, 1 )中的一对分量，即0变1，1变0，计算变换后的波段类别可分性判据。 共有m(n-m)种可能 ,码串空间的邻域,可分性判据最大的码串即对应最佳波段组合,44,流程,四、高光谱特征选择方法实例,4.2混合随机搜索波段选择,45,小结一、高光谱影像特征选择概述特征选择的基本概念（最佳波段指数等）特征选择的主要类型二、基于可分性准则的波段选择 要点：可分性判据、样本 三种搜索方式穷举搜索法启发式搜索随机搜索法 3. 滤波器类型和包装袋类型的概念（分类器学习与特征选择）三、基于光谱特征位置的波段选择 （先验光谱知识、特定目的、包络线） 四、高光谱波段选择新方法的实例 1.自动子空间划分波段选择法 2.混合随机搜索波段选择（遗传算法+局部寻优）,第四章 第2节 高光谱特征选择,
