1、毕 业 设 计 (论 文)题 目 手写数字特征提取与分析 专 业 电子信息工程 班 级 084 班 姓 名 梁 杰 指导教师 周 扬 (讲师) 所在学院 信息学院 完成时间:2012 年 5 月承 诺 书我谨此郑重承诺:本毕业设计(论文)是本人在指导老师指导下独立撰写完成的。凡涉及他人观点和材料,均依据著作规范作了注释。如有抄袭或其它违反知识产权的情况,本人愿接受学校处分。承诺人(签名):年 月 日手写数字特征提取与分析信息科技学院电子信息工程专业 梁杰摘 要:目前,模式识别领域在日常生活中的应用已经越来越广泛,比如人脸、指纹识别,字符识别,车牌识别。所以,对数字识别进行学习与研究是非常有必要
2、的。本课题为数字字符识别模拟演示系统。主要是利用正态分布下的最小错误率 Bayes 方法和最小风险 Bayes 方法,来实现手写数字从 0 到 9 的识别。该系统首先是实现模拟手写数字;然后利用轮廓特征法将 5*5 的模板提取出样品的特征,采用模板可以使同一形状、不同大小的样品得到归一化的特征提取,所以有能力对同一形状、不同大小的样品视为同类;最后结合 Bayes决策进行判别。使用最小错误率 Bayes 方法,在判别过程中能使错误率达到最小,即使错分类出现的可能性最小,而最小风险 Bayes 方法,在判别过程中可以使风险达到最小,减少危害大的错分类情况。本设计是利用 Matlab 实现的,实验
3、证明,该系统对于模拟手写的数字基本上能正确识别,但是对于手写不规范的数字会存在错判的情况,这跟样品库的有限有关。关键词:模式识别;最小错误;最小风险;特征选择;模拟手写;Matlab 实现Handwritten digital feature extraction and analysisLiang Jie,Electronic and information engineering, College of Information Science and Technology Abstract: At present, the field of pattern recognition in e
4、veryday life has been more and more widely used, such as the face, fingerprint recognition, character recognition, vehicle license plate recognition. Therefore, the digital identification of learning and research is very necessary.The topic for the digital character recognition simulation demo syste
5、m. Mainly using normal distribution under the minimum error rate of Bayes method and Bayes method to achieve the minimum risk, handwritten digits from 0 to9 of the identification. The system first is to realize the simulation of handwritten numeral; then using contour feature will be 5* 5 templates
6、extracted sample characteristics, using the template in the same shape, different sizes of samples to be normalized feature extraction, so the ability of the same shape, different sizes of samples as similar; finally combined with the Bayes decision discriminant. Minimum error rate using the Bayes m
7、ethod, the discrimination process can make the error rate reaches a minimum, even wrong classification and the possibility of the minimum, while minimizing risks Bayes method in judging process, can make the risk minimum, harm reduction in fault classification.This design is the use of Matlab to ach
8、ieve, experiments show that, the system for the simulation of handwritten digital basically correct identification, but for handwriting irregular number may have misjudged case, this with the sample library association.Key words: Pattern recognition; minimum error;minimum risk;feature selection;simu
9、lated handwriting;Matlab目 录1 绪 论 .11.1 手写数字特征提取与分析的背景与意义 11.2 手写数字特征的识别技术简介 11.3 现有的手写特征提取的有关算法 21.4 手写特征的典型应用 21.5 本文研究的内容 32 模式识别与 MATLAB 的介绍 42.1 模式识别 42.1.1 模式识别的基本概念 .42.1.2 模式识别系统 .42.1.3 相关值计算 .42.2MATLAB .52.2.1Matlab 软件的介绍 52.2.2 Matlab 的主要优缺点 .62.2.3Matlab 图像类型及转换分析 73 手写特征的提取与选择 .93.1 特征的
10、种类与筛选 93.1.1 笔划密度特征 93.1.2 傅立叶变换特征 93.1.3 轮廓特征 113.1.4 投影特征 123.1.5 重心及重心矩特征 143.1.6 首个黑点位置特征 143.1.7 粗网格特征 153.2 特征提取方法 153.2.1 结构特征提取方法 153.2.2 统计特征提取方法 163.3 手写特征模式识别方法 174 BAYES 分类器在手写特征中应用 .194.1 BAYES 分类器 .194.2 基于概率的 BAYES 决策 204.3 基于最小错误率 BAYES 的手写数字字符分类 214.3.1 样品均值 214.3.2 协方差矩阵 224.3.3 先验
11、概率 .224.3.4 协方差矩阵的行列式 .224.3.5 协方差矩阵的逆矩阵 .234.3.6 判别函数 .244.4 基于最小风险的 BAYES 分类的实现 244.4.1 与最小错误 Bayes 决策的相同之处 .244.4.2 后验概率 .254.4.3 损失函数 .255 分类实验与信息 .265.1 特征提取方法的软件实现 265.2 截图并说明仿真过程 265.3 获得实验结果 285.4 分类结果分析与评价 296 总 结 .30致 谢 31参考文献 32附 录 34附录 1编程代码: .34附录 2仿真部分截图: .391 绪 论1.1 手写数字特征提取与分析的背景与意义手
12、写数字特征提取与分析在学科上属于模式识别和人工智能的范畴。在过去的四十年中,人们想出了很多办法获取手写字符的关键特征。这些手段分两大类:全局分析和结构分析。对前者,我们可以使用模板匹配、象素密度、矩、特征点、数学变换等技术。这类的特征常常和统计分类方法一起使用。对后者,多半需要从字符的轮廓或骨架上提取字符形状的基本特征,包括:圈、端点、节点、弧、突起、凹陷、笔画 等等。与这些结构特征配合使用的往往是句1法的分类方法。多年的研究实践表明,对于完全没有限制的手写数字,几乎可以肯定:没有一种简单的方案能达到很高的识别率和识别精度。因此,最近这方面的努力向着更为成熟、复杂、综合的方向发展。一方面,研究
13、工作者努力把新的知识运用到预处理,特征提取,分类当中,如:神经网络、数学形态学等。作者认为,在手写数字识别的研究中,Bayes 和多种方法的综合是值得重视的方向。手写数字特征提取与分析研究的理论意义:1.阿拉伯数字是唯一的被世界各国通用的符号,对手写数字识别的研究基本上与文化背景无关,这样就为各国,各地区的研究工作者提供了一个施展才智的大舞台。在这一领域大家可以探讨,比较各种研究方法。2.由于数字识别的类别数较小,有助于做深入分析及验证一些新的理论。3.尽管人们对手写数字的识别已从事了很长时间的研究,并已取得了很多成果,但到目前为止机器的识别本领还无法与人的认知能力相比,这仍是一个有难度的开放
14、问题。4.手写数字的识别方法很容易推广到其它一些相关问题棗一个直接的应用是对英文这样的拼音文字的识别。事实上,很多学者就是把数字和英文字母的识别 放2在一块儿研究的。1.2 手写数字特征的识别技术简介手写数字特征的识别技术简介如图 1.1 所示,由数据获取、预处理、特征提取、分类决策及Matlab 分类器设计五部分组成。一般分为上下两部分。上部分完成未知类别的模式分类;下般部分属于设计分类器的训练过程,利用样品进行训练,确定分类器的具体参数,完成分类器的2设计。而分类决策在识别的过程中起作用,对待识别样品进行决策分类 。3数据获取 预处理 特征提取 分类决策 分类结果训练样本输入误差检验预处理
15、 确定判别函数特征提取改进判别函数图 1.1 模式识别的过程1.3 现有的手写特征提取的有关算法现有的手写特征提取的算法有多种,最邻近模版匹配法,基于 PCA 的模版匹配法,基于类中心的欧式距离法分类法,马氏距离分类法,夹角余弦距离分类法,二值化的夹角余弦距离分类法,二值化的 Tanimoto 测度分类法,特征空间分类法,二值数据的贝叶斯分类法,最小错误概率的贝叶斯分类法,最小风险的贝叶斯分类法,正太性分布函数的统计假设检验法,Fisher 算法,LMSE 算法,势函数法,基于核的 Fisher 法,BP 神经网络分类法,RBF 神级网络分类法,Hopfield 神经网络分类法,自组织神经网络
16、分类法,CPN 神级网络分类法等等,还有各种现阶段的新型算法。1.4 手写特征的典型应用手写数字识别有着极为广泛的应用前景,这也正是它受到世界各国的研究工作者重视的一个主要原因。下面我们将介绍以手写数字识别技术为基础的典型应用。1、手写数字识别在大规模数据统计中的应用:在大规模的数据统计(如:行业年检、人口普查等)中,需要输入大量的数据,以前完全要手工输入,则需要耗费大量的人力和物力。近年来在这类工作中采用 OCR 技术已成为一种趋势。因为在这种应用中,数据的录入是集中组织的,所以往往可以通过专门设计表格和对书写施加限制以便于机器的自动识别。目前国内的大多数实用系统都要求用户按指定规范在方格内
17、填写。另外,这些系统往往采用合适的用户界面对识别结果做全面的检查,最终保证结果正确无误。可以看出,这是一类相对容易的应用,对识别核心算法的要求比较低,是目前国内很多3单位应用开发的热点。2、手写数字识别在财务、税务、金融领域中的应用:财务、税务、金融是手写数字识别大有可为的又一领域。随着我国经济的迅速发展,每天等待处理的财务、税务报表、支票、付款单等越来越多。如果能把它们用计算机自动处理,无疑可以节约大量的时间、金钱和劳力。与上面提到的统计报表处理相比,在这个领域的应用难度更大,原因有:1)对识别的精度要求更高;2)处理的表格往往不止一种,一个系统应能智能地同时处理若干种表格;3)由于处理贯穿
18、于整个日常工作之中,书写应尽量按一般习惯(如:不对书写者的写法做限定,书写时允许写连续的字串,而不是在固定的方格内书写),这样对识别及预处理的核心算法要求也提高了。 3、手写数字识别在邮件分拣中的应用:随着人们生活水平的提高,经济活动的发展,通信联系的需求使信函的互换量大幅度增加,我国函件业务量也在不断增长,预计到 2000 年,一些大城市的中心邮局每天处理量将高达几百万件,业务量的急剧上升使得邮件的分拣自动化成为大势所趋。在邮件的自动分拣中,手写数字识别往往与光学条码识别,人工辅助识别等手段相结合,完成邮政编码的阅读 。目前使用4量最大的 OVCS 分拣机的性能指标:OCR 拒分率 30%,
19、 OCR 分拣差错率 1.1%。1.5 本文研究的内容本次设计拟解决的主要问题是运用 Matlab 的 Bayes 工具箱函数在系统实现的过程中面临的核心技术,也就是图像预处理和数字识别等 2 个模块的 Matlab 程序的实现。本系统研究的基本内容主要是从 Bayes 最小错误率和 Bayes 最小风险仿真程序设计两个主要分类入手,运用 Bayes分离器各种学习算法技术来解决现实生活中经常涉及到的印刷体数字字符 0-9 的识别问题。第二章主要写了模式识别的基本概念和 Matlab 软件的基本介绍,第三章主要写了手写数字的一些特征和手写数字特征的提取方法,以及本论文选择什么方法对手写数字进行特
20、征的提取与选择,第四章主要介绍了 Bayes 分类器,以及 2 种 Bayes 分类器决策方案的计算即:最小错误率 Bayes 和最小风险 Bayes。第五章写了 Bayes 分类器的仿真实验及截图说明。42 模式识别与 Matlab 的介绍2.1 模式识别2.1.1 模式识别的基本概念模式识别(Patten Recognition)就是机器识别或机器自动识别,目的在于让机器自动识别事物。例如手写数字识别,就是将手写的数字分到具体的数字类别中。模式识别研究的内容是利用计算机对客观物体进行分类,在错误概率最小的条件下,使识别的结果尽量与客观物体相符合。让机器判别事物的最基本方法就是计算,原则上讲
21、是对计算机要分析的事物与标准模板的相似程度进行计算。例如要识别一个手写数字,就要将它与 0 到 9 的模板进行比较,看跟哪个模板最相似或最接近。2.1.2 模式识别系统一个典型的模式识别系统如图 2.1 所示,由数据获取、预处理、特征提取、分类决策及分类器设计五部分组成。一般分为上下两部分。上部分完成未知类别的模式分类;下般部分属于设计分类器的训练过程,利用样品进行训练,确定分类器的具体参数,完成分类器的设计。而分类决策在识别的过程中起作用,对待识别样品进行决策分类。数据获取 预处理 特征提取 分类决策 分类结果训练样本输入误差检验预处理 确定判别函数特征提取改进判别函数图 2.1 模式识别的
22、过程2.1.3 相关值计算 1)均值5N 个样品的均值可以表示为: 2-1TnNjj xX),121(其中 是第 i 个特征的平均值, 。ix jiix12)方差方差用来描述一批数的分散程度,第 i 个特征的 N 个数的方差公式是:2-2212)(iNjiji xS方差的平方根称为均方差, 。212)(Njijii xS3)协方差与协方差矩阵在 N 个样品中,第 i 个特征和第 j 个特征之间的协方差定义为:2-3Nkjjkiiij xxS1)(对同一批样品来说, = 。ijsi如果一批样品有 n 个特征 。求出每两个特征的协方差,总共得到nx,21个值。将这 个值排练成以下的 n 维方阵,称
23、为协方差矩阵: 2n22-4nnssssS 212112协方差矩阵是对称矩阵,而且主对角线元素 就是特征 的方差 ,isix2is。ni,212.2Matlab2.2.1Matlab 软件的介绍MATLAB 是 Math works 公司于推出的一套高性能的数值计算和可视化软件,其全称是Matrix Laboratory,亦即矩阵实验室,经过多年的逐步发展与不断完善,现已成为国际公认的最6优秀的科学计算与数学应用软件之一,是近几年来在国内外广泛流行的一种可视化科学计算软件。它集数值分析、矩阵运算、信号处理和图形显示于一体,构成了一个方便的、界面友好的用户环境,而且还具有可扩展性特征。Math
24、Works 公司针对不同领域的应用,推出了信号处理、控制系统、神经网络、图像处理、小波分析、鲁棒控制、非线性系统控制设计、系统辨识、优化设计、统计分析、财政金融、样条、通信等 30 多个具有专门功能的工具箱,这些工具箱是由该领域内的学术水平较高的专家编写的,无需用户自己编写所用的专业基础程序,可直接对工具箱进行运用。同时。工具箱内的函数源程序也是开放性的,多为 M 文件,用户可以查看这些文件的代码并进行更改,MATLAB 支持用户对其函数进行二次开发,用户的应用程序也可以作为新的函数添加到相应的工具箱中 。52.2.2 Matlab 的主要优缺点1Matlab 的主要优点(1)界面友好,编程效
25、率高Matlab是一种以矩阵为基本变量单元的可视化程序设计语言,它的语法结构简单,数据类型单一,命令表达方式接近于常用的数学公式。这使Matlab用户在短时间内就能快速地掌握其主要内容和基本操作。Matlab不仅可免去大量的经常反复的基本数学运算,而且它的编译和执行速度都远远超过了采用C和Fortran语言设计的程序。可以说,Matlab在科学计算与工程应用方面的编程效率都远远高于其他高级语言 。6 (2)功能强大,可扩展性强Matlab语言不但提供了科学计算、数据分析与可视化、系统仿真等强大的功能,而且具有可扩展性特征。Mathworks 公司针对不同领域的应用,推出了自动控制、信号处理、图
26、像处理、模糊逻辑、神经网络、小波分析、通信、最优化、数理统计、偏微分方程、财政金融等30多个具有专门功能的Matlab工具箱。各种工具箱中的函数可以互相调用,也可以由用户自己更改。Matlab支持用户对其函数进行二次开发,用户的应用程序可以作为新的函数添加到相应的工具箱中。(3)易学易用性Matlab不需要用户有高深的数学知识和程序设计能力,不需要用户深刻了解算法及编程技巧。(4)高效性Matlab语句功能十分强大,一条语句可完成十分复杂的任务。它大大加快了工程技术人员从7事软件开发的效率。据Math works公司声称,Matlab软件中所包含 Matlab源代码相当于70万条c代码。正是M
27、atlab 语言的这些优势,我们选择采用这种语言实现图像处理算法,利用MATLAB强大的工具包,使算法易于实现。2Matlab 的主要缺点然而MATLAB自身存在的某些缺点限制了它的应用范围。(1) Matlab是一种解释性语言,所以它的语言执行效率低,这对于实时性要求较高的领域,如自动控制,信号处理等,其实时效率是较差的。(2) Matlab程序不能脱离其环境运行,因此它不能被用于开发商用软件。(3)程序可以被直接看到程序的源代码,因而不利于算法和数据的保密。2.2.3Matlab 图像类型及转换分析Matlab中的一幅图像可能包含一个数据矩阵,也可能包含一个颜色映射表矩阵,它包含4种基本的
28、图像类型:索引图像、灰度图像、RGB图像和二值图像。此外,Matlab还支持由多帧图像组成的图像序列 。71索引图像索引图像包括一个数据矩阵A ,一个颜色映射矩阵B。其中B是一个包含3列和若干行的数据阵列。B 矩阵的每一行分别表示红色、绿色和蓝色的颜色值。在Matlab中,索引图像是从像素值到颜色映射表值的直接映射。像素颜色由数据矩阵A 作为索引指向矩阵B进行索引。例如,值1指向矩阵B 中的第一行,2指向第二行,依此类推。2灰度图像Matlab中,一幅灰度图像是一个数据矩阵I ,其中I的数据均代表了在一定范围内的颜色灰度值。Matlab 把灰度图像存储为一个数据矩阵,该数据矩阵中的元素分别代表
29、了图像中的像素。矩阵中的元素可以是双精度的浮点数类型、8位或16位无符号的整数类型。大多数情况下,灰度图像很少和颜色映射表一起保存。但是在显示灰度图像时,Matlab仍然在后台使用系统预定义的默认的灰度颜色映射表 。83二值图像与灰度图像相同,二值图像只需要一个数据矩阵,每个像素只取两个灰度值。二值图像可以采用uint8和double类型存储,工具箱中以二值图像作为返回结果的函数都使用uint8 类型。4RGB图像8RGB图像,即真彩色图像,在Matlab中存储为nXmX3的数据矩阵。数组中的元素定义了图像中每一个像素的红、绿、蓝颜色值。需要指出的是,RGB图像不使用Windows颜色映射表。
30、像素的颜色保存在像素位置上的红、绿、蓝的强度值的组合来确定。图像文件格式把RGB图像存储为24位的图像,红、绿、蓝分别占8位。这样可以有约1000万种颜色(即2“=16777216)。5图像序列Matlab 的图像处理工具箱中还支持将多帧图像连接成图像序列。图像序列是一个四维的数组,图像帧的序号在图像的长、宽、颜色深度之后构成第四维。比如一个包含了 5 幅 400*300像素的真彩色图像序列,其大小为 400*300*3*5。93 手写特征的提取与选择3.1 特征的种类与筛选在抽取过程中,针对手写数字的特点,抽取了包括傅立叶系数特征、笔划密度特征、轮廓特征、投影特征、重心及重心矩特征、粗网格特
31、征和首个黑点位置特征共 104 维特征。3.1.1 笔划密度特征笔划密度特征的提取方法是:以不同方向扫描数字,计算扫描线和笔划相交的次数,形成笔划密度特征向量.在本文中,我对 16X16 的样本在水平方向上每隔 4 行扫描一次,提取了 4 个特征值,并在垂直方向上也每隔 4 行扫描一次,提取 4 个特征值,最后共形成 8 个值的特征向量。从密度特征的提取方法容易看到,笔划密度特征对字形畸变的抗干扰能力较强,但抗噪声能力较弱.3.1.2 傅立叶变换特征关于在频域里提取形状特征的问题,一般来说,区域的别界是一条封闭的曲线。如果在此轮廓线上取一动点,并且沿曲线逆时针方向移动,则从点的坐标的变换是一个
32、周期函数.通过规范化以后,这个周期函数可以展开成傅立叶级数。显然,傅立叶级数中的一系列系数于边界曲线的形状有关,可以用作形状的描述。当增加级数的项数使系数取到足够多的阶次时,几乎可以把形状信息完全提取出来,并且可以通过这些系数重建原来的几何形状 。9傅立叶变换是在图像处理中应用广泛的一种二维正交变换,傅立叶变换后平均值即直流项正比于图像灰度值的平均值,低频分量则表明了图像中目标边缘的强度和方向。手写体字符一般能用很多线段构成的封闭轮廓来表示,通过映射所得到的一些离散量能够充分的反映这些封闭轮廓的变化。傅立叶系数能够很好的描述图像边界轮廓,其值与相似字形的平移、旋转、位移和尺寸大小无关。在字形表
33、征和识别时,这些特征形成明显的数据压缩 。10图像经数字化处理后,可以用二维的离散信号 I(m,)来表示。对于二维离散信号 Am,n)(m =0,1 M-l,r-0,1,二, N-1),其离散傅立叶变换定义为:3-1)(210),(),u NnvMmjNnMmefvF(10在式中, 。 ,1, . M-l,t=0,1, ,N-1,称为空间频率。J 为虚数单位,广一 1,逆变换定义为3-2)(210),(),mNnvMmjNnMmevuFnf (在式中,mom, 1. M-l,n-O,l N-10 在图像处理时,一般选取图像块为 Nx的方阵,即取 M=N,这时二维离散傅立叶变换和逆变换式为3-3
34、)(210),(),uNnvMmjNnmefvF(3-4)(210),(), nvjnvuFf (在(2-3)和 (2-4)两式中, u,v,m,n=0,l, ,N-1,从物理效果看,傅立叶变换是将图像从空间域变换到频率域,其逆变换是将图像从频率域转换到空间域。换句话说,傅立叶变换的物理意义是将图像的灰度分布函数变换为频率分布函数,傅立叶逆变换是将图像的频率分布函数变换为灰度分布函数。傅立叶变换可以得出信号在各个频率点上的强度 。1傅立叶变换之所以在图像处理中被广泛使用,成为图像处理的有力工具,就因为它具有良好的性质。傅立叶变换具有可分离性,式(2-1)的指数可以被分解,从而变换可以写成如下形
35、式:3-5NmujNnnvjmefvuF21010),(),( 根据此式,二维离散傅立叶变换分解为水平和垂直两部分运算。式(3-5)中方括号中的项表示在图像的行上计算的离散傅立叶变换,方括号外面的求和则实现结果数组在列上的离散傅立叶变换。这种分解使得可以用一维的快速傅立叶变换来实现二维傅立叶变换。具体来说,一般采取连续 2 次运用一维离散快速傅立叶变换的方法来实现,即先没/(m,n)的每一个 m 对 n 求变换,再乘以 N 得到 F(m,v),完成第一次变换。然后再将得到 F(m,v)af(m,v)的每一个 v 对 m 求变换,即可得m,n)的最终变换 F(u,v).对字符点阵(16x16)做
36、二维离散傅立叶变换,可以得到 256 个傅立叶系数。将 F(u,v)用矩阵表示如下 :113-6)1,()0,(,0, NFNF F(u,v)的大幅值系数集中在低频区域内,即矩阵的左上、右上、左下、右下四角的周围。我对字符点阵做二维(16X16 点) 的离散傅立叶变换,并从上文中所提到的四个低频区域中选取了 32 个离散傅立叶变换系数作为特征。这 32 个特征系数是:F(0,0), F(0,1),F(0,2), F(0,3), F(0,4), F(1,0), F(2,0), F(3,0), F(4,0), F(1,1), F(1,3),F(2,1), F(2,2), F(2,3), F(3,1
37、), F(3,2), F(1,15), F(1,14), F(2,15), F(2,14), F(3,15),F(15,1), F(14,1), F(14,2), F(13,1), F(15,15), F(15,14), F(15,13), F(14,15), F(14,14),F(13,15), F(13,14),然后再将这些特征归一化到0,1区间之内。3.1.3 轮廓特征字符的轮廓特征能够很好的反映字符的整体结构和特性,提取轮廓特征时先由根据边界信息算法的 A 值操作组成,从而提供了字符的轮廓外形。从规整化的轮廓中直接可以导出字符的边缘轮廓。规整化的字符以 NXN 的点阵表示,在这里 N
38、为 16.记 、 为点阵第 k 行的左、右轮廓。)k(Lp)k(R=,k 0,N-1 , 满足 f(k, ) =1 且当 j ,f(k,j) = 0)k((1)字符宽度定义为:W(k)=Rp(k)一 Lp(k) 3-7K 0,N-1表示指定的行。宽度在描述某些字符如“0” , “6”, “8”, “9”时非常用。(2)比率定义为:比率=N/Wmax 3-8W 二是字符有效宽度,W_=max(W(k),k 0,N-1利用比率特征可以有效识别字符“1“,对于字符“1“来说,比率特征总是大于 2.5,而对于其他字符来说,比率特征并非总是大于 2.50(3)字符有效高度 Hamx 定义为:Hmax=m
39、ax(H(k) 3-9K 属于O,N-1,H(k) 为第 k 列的字符高度。12(4)宽高比定义为 W-/H左右边缘线的一阶有限差分别为:LDif(k)=Lp(k)一 Lp(k-1) 3-10RDif(k)=Rp(k)一 Rp(k-1) 3-11由此,定义了如下特征字符轮廓线最大值和最小值所在的位置 Lmax=k|k=max(Lp(k) 3-12Rmax=k|k=max(Rp(k) 3-13Lmax=k|k=min(Lp(k) 3-14Rmax=k|k =min(Rp(k) 3-15字符左右边缘线的正负峰Lpeak+=maxLDif(k) 3-16Rpeak+=maxRDif(k) 3-17L
40、peak-=minLDif(k) 3-18Rpeak-=minRDif(k) 3-19Lpeak=|Lpeak+|+|Lpeak- | 3-20Rpeak=|Rpeak+|+|Rpeak- | 3-21这样共有 14 个特征,分别是字符有效宽度、字符比率、字符有效高度、字符高宽比、字符轮廓线左侧最大值、字符轮廓线左侧最小值、字符轮廓线右侧最大值、字符轮廓线右侧最小值、字符边缘线左侧正峰值、字符边缘线左侧负峰值、字符边缘线右侧正峰值、字符边缘线右侧负峰值、字符边缘线左侧正负峰值绝对值之和、字符边缘线右侧正负峰值绝对值之和 。123.1.4 投影特征如图 3.1 所示,将一个字符点阵划分成四个象限
41、区域,共有十二个边线。将一个字符点阵中的每一个黑点向最近的四条边线沿水平和垂直方向投影,用十二条边线上的投影长度作为投影特征,一共有十二个特征。13图 3.1 投影特征投影算法的基本描述如下:对于字符点阵中的每一个点,投影到离它最近的四条边线上,具体投影方法如图 3.2 所示,图 3.2 水平、竖直方向上的投影当一点被投影到某一个边线上时,激活该边线上的某一个 bit 或者某些 bit,这些被激活的 bit取值为“1“,其他没有被激活的取值为“0“ ,当一个字符所有的点都投影完时,计算某一个边线上“1”的个数,即为字符在这一个边线上的投影数值。之所以选用投影特征作为手写体数字识别的特征,一方面
42、是因为投影特征计算简单,能够反映字符的内部结构和笔划的分布情况,唯一性,可区别性好,是比较有代表性的特征,不同14数字之间的 12 个投影特征的各个分量差异比较明显,可以考虑作为分类的细特征。另一方面,神经生理学认为,在哺乳动物视觉系统内存在着类似的投影边线,人们在进行识别时在不同的水平上引用到这些线索,因此引入字符的投影特征也是符合人脑的感知模型。3.1.5 重心及重心矩特征由于不同字符的笔划不同,其象素点的分布不同,所以造成不同字符的重心位置不同,与其有关的一些离散量包含了字符几何特征的信息。令 fIm。表示点阵中第 m 行,第 n 列象素。定义:3-2210n10n,mNMNmnff3-
43、2310n10n,NMNmnff其中 m =1,2,. M-1, n = 1,2,. N-1.(m, n)就定义为整个字符的重心位置。定义重心矩如下:3-24)(2)1(2)(, nLNjjnMiimji 其中 i=1,2; j=1,2.这样可以得到四个重心矩特征:中的象素偏离重心位置的整体特征。L;j(i=1,2; j=1,2),它们分别反映了四个象限本文中的重心及重心矩特征计算了点阵的重心位置,以及四个象限重心矩,共五个特征,包括一个二维特征,四个一维特征。3.1.6 首个黑点位置特征按上文中定义的八个方向,沿逆时针方向,即 0 度方向一45 度方向一90 度方向一135度方向一 180
44、度方向一 135 度方向一-90 度方向一-45 度方向,统计各个方向上由外至内首个黑点出现的位置,共计 8 个二维特征。153.1.7 粗网格特征粗网格特征是一组注重字符图像整体的分布特征,此种特征对噪声具有极强的抑制能能力。一般来说,虽然手写数字的书写风格千变万化,但是数字笔划的分布是有一定的规律的。由于10 个字符的笔划具有比较固定的总体分布状况,从特征选择的质量来讲,不同数字的特征向量在特征空间中的分布是比较分散的,即特征空间中不同类的类间距离是比较大的。本文进行的粗网格特征提取,其提取方法的主要思想是,把数字点阵分成几个局部小区域,并把每个小区域上的点阵密度作为描述特征,即统计每个小
45、区域中图像象素所占的百分比作为特征数据。针对 16X16 的点阵,我将之划分成大小为 4X4 的小区域,共计 16 个,因此,共得出一个十六维的粗网格特征。由于粗网格特征反映的是图像的局部统计特征,是个百分比相对值,而图像局部的形变或噪声对应数字点阵就是局部元素的“0”和“1“的值互换,所以如果图像带有局部的形变或噪声,与没有形变和噪声的原图像相比,计算出来的百分比相对值变化不大.也就是说,这个相对值对于数字图片局部笔划的形变或孤立噪声点带来的影响不敏感。因此,以粗网格为特征进行数字识别,具有较好的抗噪声能力.根据不同点阵和取不同小区域的具体计算方法可参考文献。同时,根据文献的实验结果,以粗网
46、格作为特征提取进行数字识别,有很好的识别率 。133.2 特征提取方法特征提取是整个字符识别系统的关键,识别算法是根据选取特征的种类来进行选择的所选取的特征是否稳定,是否代表一类字符的特点,是系统识别率的高低的关键。手写体字符特征提取的方法可分为结构特征和统计特征两种。下面分别简述这两种特征提取方法的特点与一般方法 。143.2.1 结构特征提取方法采用结构特征提取对字符进行结构分析从而达到识别的目的,是一种非常直观的方法,其思想与人认字的原理有点相象,但又有所不同。其基本思想是:字符可以逐级分解成部件、笔划乃至笔段,识别时可以自底向上,由象素得到笔段,由笔段结合成笔划,由笔划构成部件,由部件
47、组成字符,逐级分析字符图象的结构,根据各元素的属性、数量及其相互关系,便可以判定待识字符。目前研究较成熟,效果比较好的是基于笔划和基于笔段分析的手写体字符识别 。1516对不同的字符手写样本,尽管人书写风格千变万化,然而,笔划与笔划之间的位置关系、以笔划为基元的字符的整体拓扑结构是不变的,人认字就是抓住了这些本质不变的特征,因此能适应不同的书写风格的文字。所以,基于笔划来自动识别字符一直是手写体字符识别研究的一类主要研究方法.虽然字符的笔划特征受字体、字形大小等影响较小,是识别字符的良好特征,但可惜笔划特征对实际的书写文本来说较难稳定的提取。通常,用基于笔划段作为特征能较好的解决这一困难。采用
48、结构特征提取方法的难点在于笔划或笔段等基元的准确提取。虽然提取笔划或笔段的方法己有多种研究,但它们都是基于图象处理的方法,截然不同于人根据知识和经验而作出的视觉处理。单纯建立在图象处理方法上的笔段机器分析只能十分机械地按图象就事论事,结果提取到的笔段难免与人的判别不完全一致。这种情况在存在连笔、断笔、模糊等的场合尤为不可避免。所以,书写畸变对结构特征分析法有十分重要的影响。因此,寻求稳定可靠的笔段提取方法仍然是当前有待进一步研究的课题。3.2.2 统计特征提取方法从统计模式识别的观点来看,字符识别实际上是一个模式分类问题,人对自然物体的识别,是建立在对该物体进行学习、特征分析的基础上的,计算机模式识别的过程与人的识别过程有着相识的地方。实际上就是一种通过学习或者其它