降维算法和手写文字识别中若干问题研究

《降维算法和手写文字识别中若干问题研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、降维算法和手写文字识别中若干问题研究姚超西安电子科技大降维算法和手写文字识别中学若干问题研究作者姓名姚超导师姓名、职称卢朝阳教授2014一级学科信息与通信工程二级学科通信与信息系统年9月申请学位类别工学博士提交学位论文日期2014年9月学校代码10701学号09081110013分类TN82号TP391.4密级公开西安电子科技大学博士学位论文降维算法和手写文字识别中若干问题研究作者姓名：姚超一级学科：信息与通信工程二级学科：通信与信息系统学位类别：工学博士指导教师姓名、职称：卢朝阳教授提交日期：2014年9月ResearchonDimensionalityR

2、eductionandHandwrittenCharacterRecognitionAdissertationsubmittedtoXIDIANUNIVERSITYinpartialfulfillmentoftherequirementsforthedegreeofDoctorofPhilosophyByYaoChao(InformationandCommunicationEngineering)Supervisor:Prof.LuZhaoyangSeptember2014西安电子科技大学学位论文独创性（或创新性）声明秉承学校严谨的学风和优良的科学道德，本人

3、声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不包含其他人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中做了明确的说明并表示了谢意。申请学位论文与资料若有不实之处，本人承担一切的法律责任。本人签名：日期：西安电子科技大学关于论文使用授权的说明本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究生在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。学校有

4、权保留送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全部或部分内容，可以允许采用影印、缩印或其它复制手段保存论文。同时本人保证，毕业后结合学位论文研究课题再撰写的文章一律署名单位为西安电子科技大学。（保密的论文在解密后遵守此规定）本学位论文属于保密，在年解密后适用本授权书。本人签名：导师签名：日期：日期：摘要摘要本文对模式识别中降维算法和手写文字识别两个核心问题进行了研究。在降维算法方面，对常用的线性判别分析（LinearDiscriminantAnalysis,LDA）算法进行了深入的研究。首先讨论了LDA与分类误差之间的关系；然后对LDA在处理

5、多类问题，当最终的维度l小于类别数C-1时，出现的非最优问题，提出了一种基于子集划分的方法以提升LDA的性能；最后对LDA各个投影方向间的约束问题，提出了一种基于类别对之间可分性状态的约束条件。在手写文字识别方面，本文对MQDF分类器中替代参数h提出了一种新的估计算法；对手写汉字识别中相似字的判别问题，本文提出了一种基于分类器级联的策略以更全面地利用原始特征中的判别信息。本文取得了以下主要研究成果：1.讨论了LDA与Bayes分类误差之间的关系。在高斯分布假设下，对于两类情况，本文推导出LDA和Bayes误差在等方差情况下的函数关系，并且给出了在这种特殊异方

6、差情况下两者的函数关系。对于多类等方差情况，分别推导了LDA、Bayes与投影方向的函数关系，比较得到的函数关系可以从理论上解释多类LDA在子空间维度l小于类别数C-1时出现的非最优问题。2.对于多类LDA在寻找到的子空间维度l小于类别数C-1时出现的非最优问题，提出了一种基于子集划分的LDA改进方法。与已有的方法不同，本文利用类别数C越小LDA得到解的鲁棒性越强这一现象，提出基于子集划分的方法提高LDA的性能。在训练过程中，提出的方法首先将多类问题划分为一系列子集，并对子集求解子空间；在分类过程中，提出的方法将待分类样本x映射到其所属的子集中，然后在该子集

7、中进一步确定该样本所属的类别。为了得到全部类别的最优子集划分，本文首先产生在指定分类器下各个类别间的关系，然后利用图分割方法求解出最优的子集。因为提出的方法并没有涉及具体子空间的目标函数，所以该方法可以用来改进其他线性降维方法。实验结果表明该算法可有效的提高LDA及其它线性降维方法的性能，特别是在最终维度较低的时候。3.对于LDA判别向量间的约束问题，提出一种基于可分性状态的Fisher判别向量约束关系。本文研究了特征向量与其元素在可分性方面的关系，得到两类满足等先验同方差高斯分布的特征向量，若向量中任意一个元素可分则该特征向量必然可分。在上述结论的基础上，

8、本文在寻找到每一个投影方向之后检查各对类别投影后得到