基于流形学习的数据降维技术及工程应用研究.pdf

《基于流形学习的数据降维技术及工程应用研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

‘場約葬講萊誕謬、满讀讓繞攀鶏弯续穗；確＾，寒難纖或Ｖ；義麵繼置審卿．議苗刚辣耀＇Ｖ巧變：、‘、．、０：－；ｔｉ＇．产４＇ｖＬ？■，一；、１‘乂聲＊、薄着巧攻装碳丰巧生学位论讀讓義、戸Ｉｆｉｉ｜’＇：巧＇．．：‘，皆帝辨／．巧策ｙ瓣認／．山础於带。＇、‘‘＞心＾气．ｉ：邏誤繊篇（＾＾ｊ）？稱禱難剛矿奪；＇繼Ｉ一‘１賴ｓ纖＇．＊＇、＇＇？＾’’片．皆敌Ｊ、．仲、，表乂呼ｌ．補Ｖ献宗＾基巧＾形学习的数据降维巧韦及王璋ｆ苗；黎是＇．．．＇．．＾ｖ值用硏为：Ａ＾纔冷苗综媒矿，：＼＾若知销ＩＰ１議曲库謹薑覇丽．：八、Ｎｒｉ雖聲ｉ盞卷＇＇＾■＞－０１ａ：４３０９０４０１／；：＇—．－—￣：．＾．＞．／；；点．讲品於；篇杳．－’八．糾（专业離）．；蛛；京＾鷄＇擊托．’：於、＇；＞：模式识挪义Ｌ？、－．Ｖ绅究亦畜乾‘；记知，又扣＞式９心：豕＇＇’卢壬月海、、诘軒讀療雌导心｜：，謂资卿．麥扣賊…，仁直巧廷茲：＃炎．心‘：八’、＇’．．Ｖ货，：…．Ｖ护令，＇：乃．护背品：法ｆ：，六山竹了‘？．Ｖ夺冰＇；心＾纏簾這蘇满齊趕＿姆讓瓣Ｉ雜禮議悉’纖繪龜隹儀誦藝筹镇麵麵論ｆ’—’一＞．二：，：Ｖ．二絲若巧巧共社吉：媛志苗钱； 化方工化大学学位论文原创性涛明，本人郑巧奔明：巧呈交的学位论文是本人巧导师的衔导下，独立进行研巧工作所取得的成巧，除义中邑经注明引用的巧容外，木论文不含任倒巧牠个人或堯化己经发袭或探写过的作晶成梁，对本文的研究做出重變質献的个人巧集体，均己在文中Ｗ明确巧式孩明＊本人完全怠识到本声巧的法律结果由本人承巧，学位论文作者签名：Ｂ期：片口年＾月／日］学位论文使用授较书学位论发作者完全了解北方工业大学有关保窗巧使用学值论文的规定，即？学：研巧生巧较攻读学位期间论文工作的知识产巧单位属化方工化大学巧杳权傑留并向廬家有关部口或机构送交论文的复印件巧电子版，化许学俭论文被意阅巧借闽；学校可Ｗ公布学億论文的全郁或都分内容，可抖化许采用影巧、缩印或其芭复術手段保存、ｒ编学位论文（保密的学位论文在解密房逛用于本授校书），口保巧论义注巧；经本人申巧．学校批准，本学位论义定为保密论文，密级：．巧吸：年，自年月日超至年月日化，解巧房活用本巧化书，ｂ／非保巧论义注稀：本学位论文不属子保密稚围，适巧本授较书。，來扳Ｊ，Ｉ本人巧名：日期，Ｗ绿师巧名：日朋：＿４々 北方工业大学硕±学位论文基于流形学习的数据阵维技术及工程应用研究摘要随着人工智能和大数据技术的飞速突破，机器学习和数据挖掘这些人工智能核也研究领域往往会得到普遍呈现出高维、非线性特性的数据。Ｗ模巧电路故障诊断为例一，特别是在个高度集成的电路板上进行板级故障定位时，由于元器件数量大且存在容差，导致采集到的数据更倾向于１＾＾高维数、非线性结构分布。对于这些大规模、高维非线性的数据，人们想要直观的感知隐藏在高维数据下的有一用的知识，难度可想而知。数据降维，是窩维数据维数降低的最有效途径之。。数据降维技术可分为线性降维和非线性降维线性降维技术应用广泛，但对包含大量非线性数据的实际工程应用降维效果较差，这也使非线性降维技术逐渐成为当前的研究热点。为获取高维且难Ｗ理解的数据的低维表示，基于流形学习的局部线性嵌入维数约减方法利用局部线性和全局非线性的假设，使其在减少高维数据维数的过程中，仍可保持高维数据的原有结构。这种特性使其成为机器学习研一巧领域的研究热点之。本文研巧使用基于流形学习方法的局部线性嵌入化ｏｃａｌＬｉｎｅａｒＥｍｂｅｄｄｉｎｇ，ＬＬＥ）技术进行特征降维和特征提取的问题。针对模拟电路故障诊断工程中特征维数高问题一ＬＬＥ，提出了种基于小波包分解和算法相结合的特征维数约简方案，Ｗ两级四运放低通滤波器电路为研究对象，通过基于克隆选择算法的故障诊断研巧了故障将征维数约简技术。实验研究结果验证了本文提出的算法在模拟电路故障诊断特征降维问题的适用性，从而为ＬＬＥ算法在复杂数据降维的工程应用提供了有用的参考。关键词：流形学习，，，数据降维局部线性嵌入模巧电路故障诊断，小波包分解Ｉ 北方工业大学硕±学位论文ＲｅｓｅａｒｃｈｏｎＤａｔａＤｉｍｅｎｓｉｏｎＲｅｄｕｃｔｉｏｎａｎｄＥｎｇｉｎｅｅｒｉｎｇＡｐｐｌｉｃａｔｉｏｎＢａｓｅｄｏｎＭａｎｉｆｏｌｄＬｅａｒｎｉｎｇＡｂｓｔｒａｃｔｔｔｔｅｄａｔａ化ｃｈｎｏｏＷｉｔｈｔｈｅｒａｉｄｄｅｖｅｌｏｍｅｎｏｆａｒｉｆｉｃｉａｌｉｎｅｌｌｉｅｎｃｅａｎｄｌａｒｌｇｙｐｐｇｇ，ｍａｃｈｉｎｅｌｅａｒｎｉｎｇａｎｄｄａｔａｍｉｎｉｎｏｆｔｈｅｓｅａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｅｎｃｅｃｏｒｅｒｅｓｅａｒｃｈａｒｅａｓｇｇ－ｔ化ｎｄｔｏｂｅｅ打ｅｒａｌｌｓｈｏｗｉｎｈｉｈｄｉｍｅｎｓｉｏ打ａｌ打ｏ打ｌｉｎｅａｒｃｈａｒａｃｅｒｉｓｔｉｃｓｏｆｔｈｅｄａｔａ．ｇｙｇｇ，Ｔａｋｉｎａｎａｌｏｃｉｒｃｕｉｔｆａｕｌｔｄｉａｎｏｓｉｓａｓａｎｅｘａｍｌｅｅｓｅｃｉａｌｌｉｎａｈｉｌｉｎｔｅｒａｔｅｄｇｇｇｐ，ｐｙｇｈｙｇ－ｔｔｓｃｉｒｃｕｉｔｂｏａｒｄｆｏｒｂｏａｒｄｌｅｖｅｌｆａｕｌｌｏｃａｔｉｏｎｄｕｅｔｏｔｈｅｌａｒｅｎｕｍｂｅｒｏｆｃｏｍｏｎｅｎ，ｇｐａｎｄｔｈｅｅｘｉｓｔｅｎｃｅｏｆｔｏｌｅｒａｎｃｅｒｅｓｕｌｔｉｎｉｎｔｈｅｄａｔａｃｏｌｌｅｃｔｅｄｍｏｒｅｉｎｃｌｉｎｅｄ化，ｇｈ－－ｔｒｔ－ｉｈｄｉｍｅｎｓｉｏｎａｌ打ｏｎｌｉｎｅａｒＳｕｃｕｒｅｄｉｓｔｒｉｂｕｔｉｏｎ．Ｆｏｒｔｈｅｓｅｌａｒｅｓｃａｌｅｇ，ｇ，ｈ－－ｔｉｈｄｉｍｅｎｓｉｏｎａｌｎｏ打ｌｉｎｅａｒｄａｔａｅｏｌｅｗａｎｔ化ｉｎｔｕｉｉｖｅｌｅｒｃｅｉｖｅｕｓｅｆｕｌｇ，ｐｐｙｐｋｎｏｗ－ｔｔｔｌｅｄｅｈｉｄｄｅ打ｉｎｈｉｇｈｄｉｍｅｎｓｉｏｎａｌｄａａｈｅｄｉｆｉｃｕｈｃａｎｂｅｉｍａｉｎｅｄ．Ｄａａｇ，ｙｇｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏ打ｉｓｏｎｅｏｆｔｈｅｍｏ巧ｅｆｅｃｔｉｖｅｗａｙｓｔｏｒｅｄｕｃｅｔｈｅｄｉｍｅｎｓｉｏｎａｌｉｔｙｏｆｈｉｇｈｄｉｍｅｎｓｉｏｎａｌｄａｔａ．Ｄａｔａｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎ化ｃｈｎｏｌｏｇｙｃａｎｂｅｄｉｖｉｄｅｄｉｎｔｏａｍｅｎｓｉｏ打ａｌｉｒｅｃｏｎａｎｄｎｏｎｌｉｎｅａｒｄｉｍｅｎｓｉｏｎａｌｉｔｒｅｄｕｃｔｉｏｎ．ｅｌｉｎｅａｒｌｉｎｅｒｄｉｔｙｄｕｔｉｙＴｈ＊ｄｉｍｅ打ｓｉｏ打ａｌｉｔｉｅｄｕｃｔｉｏ打ｋｃｈｎｉｕｅｉｓｗｉｄｅｌｙｕｓｅｄｂｕｔｔｈｅｅｆｅｃｔｏｆｒｅｄｕｃｉｎｔｈｅｙｑ，ｇｄｓｏｎａｔｏｆｔｅａｃｔｕａｅ打ｉｎｅｅｒｉｎａｌｉｃａｉｏｎｗｉｈｌａｒｅａｍｏｕｎｔｏｆ打ｏｎ－ｌｍｅａｒｉｍｅ打ｉｌｉｙｈｌｇｇｐｐｔｔｇｄａｔａｉｓａｌｓｏｂｅｃｏｍｉｎｇｔｈｅｈｏｔｓｐｏｔｏｆｔｈｅｃｕｒｒｅｎｔｒｅｓｅａｒｃｈ．Ｉｎｏｒｄｅｒｔｏｏｂｔａｉｎｔｈｅ－－ｌｏｗｄｉｍｅｎｓｉｏ打ａｌｒｅｒｅｓｅ打ｔａｔｉｏｎｏｆｈｉｈｄｉｍｅｎｓｉｏｎａｌａｎｄｄｉｆｉｃｕｌｔｔｏｕｎｄｅｒｓｔａｎｄｄａｔａｐｇ，ｔｈｅｌｏｃａｌｌｉｎｅａｒｅｍｂｅｄｄｉｎｇｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｍａｎｉｆｏｌｄｌｅａｒｎｉｎｇｕｓｅｓｔｈｅａｓｓｕｍｔｉｏ打ｏｆｌｏｃａｌｌｉｎｅａｒａｎｄｇｌｏｂａｌｎｏ打ｌｉｎｅａｒｉｔｙ！：〇ｒｅｄｕｃｅｔｈｅｄｉｍｅｎｓｉｏｎｏｆｐｔ－ｈｉｄｉｍｅ打ｓｉｏｎａｌｄａｔａＣａｎｓｉｌｌｍａｉｎｔａｉｎｔｈｅｏｒｉｉｎａｌｓｔｒｕｃｔｕｒｅｏｆｈｉｈｄｉｍｅｎｓｉｏｎａｌｇｈ，ｇｇｄａｔａ．Ｔｈｉｓｆｅａｔｕｒｅｍａｋｅｓｉｔ０打ｅｏｆ也ｅｈｏｔｓｐｏｔｓｉｎｔｈｅｆｉｅｌｄｏｆｍａｃｈｉｎｅｌｅａｒｎｉｎｇ．Ｉ打ｔｈｉｓａｅｒｗｅｓｔｕｄｔｈｅｒｏｂｌｅｍｏｆｆｅａｔｕｒｅｒｅｄｕｃｔｉｏ打ａｎｄｆｅａｔｕｒｅｅｘｔｒａｃｔｉｏｎｐｐ，ｙｐｕｓｉ打ｏｃａｌＬｉｎｅａｒ￡ｍｂｅｄｄｉ打ＬＬＥｔｅｃｈｎｉｕｅｂａｓｅｄｏ打ｍａｎｉｆｏｌｄｌｅａｍｉ打ｍｅｔｈｏｄ．ｇＬｇ（）ｑｇＡａｈｅｒｏｂｌｅｍｏｆｈｉｈｆｅａｔｕｒｅｄｉｍｅｎｓｉｏｎｉｎａｎａｌｏｃｉｒｃｕｉｔｆａｕｌｔｄｉａｎｏｓｉｓｉｍｉｎｇｔｔｐｇｇｇｐｒｏｅｃｔａｆｅａｔｕｒｅｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎｓｃｈｅｍｅｂａｓｅｄｏｎＷａｖｅｌｅｔＰａｃｋｅｔｊ，Ｄｅｃｏｍｏｓ－－ｐｉｔｉｏｎＷＰＤ）ａｎｄＬＬＥａｌｇｏｒｉｔｈｍｉｓｒｏｏｓｅｄ．Ｔｈｅｔｗｏｓｔａｇｅｆｏｕｒｏｐａｍｐ（ｐｐＩＩ 北方工业大学硕±学位论文－ｌｏｗｐａｓｓｆｉｌｔｅｒｃｉｒｃｕｉｔｉｓｓｔｕｄｉｅｄ．ＲｅｓｅａｒｃｈｏｎｆａｕｌｔｆｅａｔｕｒｅｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎｂａｓｅｄｏｎＣｌｏｎｅＳｅｌｅｃｔｉｏｎＡｌｇｏｒｉｔｈｍ（ＣＳＡ）．Ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｖｅｒｉｆｙ化ｅａｐｐｌｉｃａｂｉｌｉｔｙｏｆｔｈｅａｌｇｏｒｉｔｈｍｒｏｏ化ｄｉｎｔｈｉｓａ化ｒｅｄｕｃｅｔｈｅｒｏｂｌｅｍｏｆｆｅａｔｕｒｅｒｅｄｕｃｔｉｏｎｉｎｐｐｐｐ巧ｐａｎａｌｏｇｃｉｒｃｕｉｔｆａｕｌｔｄｉａｏｓｉｓ，ｗｈｉｃｈｒｏｖｉｄｅｓａｕｓｅｆｉｉｌｗｆｅｒｅｎｃｅｆｏｒＬＬＥａｌｏｒｉｔｈｍ化ｇｎｐｇｒｅｄｕｃｅｔｈｅｅｎｇｉｎｅｅｒｉｎｇｏｆｃｏｍｌｅｘｄａｔａ．ｐＫｅｙｗｏｒｄｓ：ｍａｎｉｆｏｌｄｌｅａｒｎｉｎｇ，ｄａｔａｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎ，ｌｏｃａｌｌｉｎｅａｒｅｍｂｅｄｄｉｎｇ，ａｎａｌｏｇｃｉｒｃｕｉｔｆａｕｌｔｄｉａｇｎｏｓｉｓ，ｗａｖｅｌｅｔｐａｃｋｅｔｄｅｃｏｍｐｏｓｉｔｉｏｎＩＩＩ 北方工业大学硕±学位论文目录摘要ＩＡｂｓｔｒａｃｔ田一第胃绪论１１．１课题来源及研究意义１１．２流形学习概述２１．３工程中的数据降维问题及降维目的４１．４流形学习的国内外研巧现状６１．５流形学习降维技术在工程上的应用８１．６本章小结９第二章模拟电路故陣诊断及其数据降维１０２．１模拟电路故障诊断现状概述１０２．２模拟电路故障诊断总体流程１０２．３模拟电路故障特征提取方法１２２１３．４模拟电路故障诊断工程降维问题２１４．５智能诊断算法简介２．６本章小结１５第Ｈ章两种典型的流形学习数据降维方法１６３．１等度量映射１６３．２局部线性嵌入１７３．３算法比较２０３．４本章小结２０第四章模抵电路故障诊断铃征提取２１４．１通用的特征提取技术２１４．２系数能量值提取２２４．３小波特征提取技术实现方案２４４．３．１小波基函数选择实验２５４．３．２小波分解层次对比实验：２６４．２２７．３小波系数构建故障特征对比实验４２９．４本章小结第五章流形学习数据降维及模拟电路诊断工程应用３０１ 北方工业大学硕±学位论文５．１实验方案３０５３．２实验电路图１５．３故障注入与数据采集３２５．４数据预处理３４５．５实验结果与分析％５．５．１ＬＬＥ和Ｉｓｏｍａｐ数据降维效果对比实验％５．５．２ＷＰＤ不同分解层数下数据降维效果对比４０一５．５．３同数据进行降维效果对比实验４１第六章结论与展望４３６．１主要结论４３６．２研究展望４３参考文献４４申请学位期间的研巧成果及发表的学术论文４７致谢４８２ 北方工业大学硕±学位论文第一章绪论１．１课题来源及研究患义计算机科学技术的飞速发展，使得机器学习受到了众多研充者的关注。在研，巧模式识别或数据挖掘领域中的实际工程问题时，为了获取有用的数据信息计算机往往要存储并处理大量的高维非线性的数据。如在模拟电路故障诊断、图像处理、文本分类、信息检索和人脸识别等实际工程中，研究人员所获取的数据往往呈现数据量大、维数高和非线性结构的特点。送些特性给数据处理带来了很多Ｗ的问题，例如计算效率低下、维数灾难、线性模型失效等。此外，仍有大量的、＂感＂难Ｗ被人类知的知识和规律存在于这些数据中。探索高维数据中的存在的内在规律，对数据进行降维，引起了广大学者的高度关注。一降维技术是模式识别的关键技术之。目前数据降维己成为数据挖掘和机器一学习等相关领域关注的重点研究问题。对高维数据进行有效的降维，用个简略的低维数据进行表示，便提取在高维数据中潜伏的有用的信息也是当数据挖掘一一领域的研究热点么。现有的数据降维技术大致上可｜＾分为两类，第类是线性降维，如主成分分析（ＰＣＡ）、线性判别分析（ＬＤＡ）等。第二类是非线性降维，包括等度量映射和局部线性嵌入等。线性降维技术出现时间早，成果比较多，但一旦在实际工程应用中，当面对数据具备线性可分的理想情况下降维效果最好，面对工程中出现Ｗ非线性、流形分布的数据时，线性假设不成立，使得用线性降一维技术进行降维收效甚微，ＰＣＡ，。ＷＰＣＡ为例是种典型的线性降维技术其一实现降维的方法是通过个线性映射函数，得到高维数据映射在低维子空间中的一坐标，实际上是个坐标变换的过程。但面对高维数据具有非线性结构时，ＰＣＡ采用的线性变换手段，得到的降维结果不能很好的反映数据本质结构。基于线性降维技术的诸多不足，非线性降维技术应运而生，发展迅速，基于流形学。其中习方法Ｍａｎｉ化ＩｄＬｅａｒｎｉｎ的数据降维技术，是当前发展较快也相对较为成熟的（ｇ）一非线性降维技术方法，。流形学习理论认为大多数的高维数据都能找到个与之相对应的低维流形结构。在实际工程运用中，面对大规模高维、非线性数据，流形学习方法可Ｗ找出空间中嵌套在高维空间中的内蕴低维结构，找到数据点内在的分布规律，，最终实现降维。在使用流形学习处理实际工程中的维数灾难问题时流形学习降维技术克服了线性降维技术的不足，逐渐被广泛的应用在当前机器学１ 北方工业大学硕±学位论文习和数据分析相关领域中。本文对基于流形学习方法的数据降维技术进行研究，Ｗ期解决模拟电路中，使用小波进行分解提取特征时，特征维数随小波分解层数的增加呈指数形式増长一所造成的维数灾难问题，从而进步提高模巧电路故障诊断工程中的故障诊断率。全文的主要内容概括如下：１）介绍了流形、流形学习及降维的相关概念绍了具体工程中数据降维；介问题及降维目的；介绍了流形学习研究现状及其在工程上的应用。２）介绍了模拟电路故障诊断现状及其发展缓慢的原因；详细分析了基于模式识别技术的模巧电路故障诊断流程主要包括：电路数据采集、故障特征提取、、故障分类算法训练、识别结果等五个主要阶段典型故障特征构建：介绍了模拟电路中常用的特征提取方法：研巧了引起模拟电路特征维数灾难的原因；最后对用于进行验证降维效果的克隆选择诊断算法ＣＳＡ）进行简单介绍；（３）研巧两种典型的流形学习数据降维算法：等度量映射和局部线性嵌入。通过比较时间复杂度和参数，得出ＬＬＥ算法运算量小、参数少等优点，为验证实验中选择使用ＬＬＥ算法在模拟电路故障诊断工程中进行复杂数据降维提供理论依据；４）研巧模拟电路故障诊断中的通用的小波特征提取技术实现方案，并通过实验研究了小波特征提取中如何选择最优小波基、最优分解层数和最优小波分解系数构造特征的Ｈ方面内容。５）提出用ＬＬＥ＋ＷＰＤ＋ＣＳＡ的模拟电路故障诊断框架，实现了典型两级四运放低通滤波器电路故障特征数据降维。实验结果验证了ＬＬＥ算法在模拟电路故障诊断复杂工程应用中进行复杂数据降维的适用性。１．２潇形学习巧述流形（Ｍａｎｉｆｏｌｄ，是２０世纪最具有代表性的数学理论，它将化何学和拓扑）学等多个数学研巧领域进行有效的联结一，成为现代数学中的个十分重要的概念，Ｒ一最早由ｉｅｍａｎｎ在博：ｔ论文中使用流形词，随后希尔伯特给出了流形严格的数学定义。为了更清晰准确的描述流形学习的理论和方法，给出流形学习相关数学基础；一一拓扑：假设Ｘ是个集合且非空，Ｔ是集合Ｘ的个子集，若Ｔ满足下面Ｈ个条件；１）Ｘ，０ＧＸ；２ 北方工业大学硕±学位论文２）如果４、ＢＧＴ，那么４ｎＢＧＴ；■一＂３巨ＴＴ＂＊３）如果ＴＣＴ，则称！的ｔ拓扑。，那么是ＡｉＷＴ一ＸＴ一拓扑空间：若是集合Ｚ的个拓扑，则称集对，是个拓扑空间。（）一、同胚；设Ｘ７是两个拓扑空间，ｔ是个连续映射，如果ｆ有有逆一个同胚映射映射，并且说Ｘ与ｙ同，而且逆映射也是连续的，那么就说ｆ是［＂胚。一：设ＸＴ，如豪斯道夫空间，是个拓扑空间果Ｘ中任何两个不相同的点和（）－Ｕ和的邻域ｕｎｙ＝Ｘ，都存在的邻域使得０，则称集合Ｘ所在的空间ｊＷ为豪斯道夫空间。一ＧＭ，均存在Ｐ的流形：假设Ｍ为非空豪斯道夫空间，若对于任意点Ｐ一ｄ维的拓开邻域ＵＳＭ与ｄ维欧氏空间的某开子集Ｋ同胚，则称Ｍ为Ｗ一化流形。流推广。在每个很小的局部邻域，。简称ｄ维流形是欧式空间的进Ｗ流形和欧氏空间都具备局部平滑性和线性构造，在局部可Ｗ赋予坐标。一一ＳｗｉｓｓＲｏｌｌ是个简单的流形的例子。如图１所示，个长方形在Ｈ维空间一卷曲个Ｓ曲面，从运个流形上，０００个采样点，应用Ｉｓｏｍ方，形成了取出１巧－Ｃ，降到２维后效果如最右侧图１所示。法对采样点进行降维，邻点取１２Ｕ）Ａ没；Ｃ）｜｝ｉ懷琴穀＇－＇￣￣￣￣，°口ｒｏＳ０；Ｔ１０（Ａ）ＳｗｉｓｓＲｏｌｌ流形（Ｂ）１０００个采样点（Ｃ）二维嵌入结果－图１１ＳｗｉｓｓＲｏｌｌ流形＂＂流形学习，最早是在１９％年由Ｂｒｅｇｌｅｒ和Ｏｍｏｈｕｎｄｒｏ两位学者提出。在他们分别发表的两篇关于可视化语音识别和数字图像处理的论文中首次提出这个词其严格数学描述是由Ｓｉｌｖａ和Ｔｅｎｅｎｂａｕｍ在文献中给出，如下所不：一ｄｄ《Ｄ流形学习：给定采样于或近似采样于Ｄ维空间中某（）维的流形３ 北方工业大学硕±学位论文０＝ｃ阪ＸＭ的数据集乂，有Ｘ杉＝，其中为列向量，代表每个采样样本。流ｉｉ巧ｉ一＝Ｃｄ定的约束条件下寻找Ｘ的低维流形坐标表示ＩＲ形学习就是在１／｛公＜巧＝１，Ｗ＝－其中％／为对应采样样本的低维坐标。如图１２所示，流形学习示意图。（切，３‘‘／。ｙ图－１２流形学习示意图一＂流＂流形学习是类借鉴了拓扑流形概念的降维算法。形是在局部与欧式空间同胚的空间，换言之，它在局部具有欧式空间的性质，能用欧式距离来计算距离。这给维数降低带来了很大的启发，则数据，若低维流形嵌入到高维空间中样本在高维的分布看上去非常复杂，，，但在局部上仍具有欧式空间的性质因此可容易的在局部建立降维映射关系，然后再设法将局部映射关系推广到全局。０＜＂降维数学定义＝￡巧：给定〇个样本数据点乂乂．．．乂，给｛而，２，。｝出映射ｄ一ｄｘｎ一识ｄ《Ｄ或给出另种结果＾＝￡沉＝．．．ｙｄ《〇。则ｙ，；护１乂，ｎ｝，＝。．．．称之为Ｘ乂…，化，化Ｔ２＾１峨，２而｝的降维１．３工程中的数据降维问题及降维目的高维数据普遍存在于各种实际工程应用问题中。这些数据外在表现为高维，Ｗ但其内在仍是低维结构。在高维数据背后隐藏的，有关于事物本质特征的描述依然是人们更想探巧的。根据目前对数据的处理技术上来看，当数据的维数较低、４ 北方工业大学硕±学位论文且具有全局线性结构时，传统的线性降维数据处理方法可！＾取得较好效果。但当面对实际工程应用，处理高维、非线性数据时，不存在数据线性可分的理想状态，导致线性降维数据处理方式应用受限。例如，在模拟电路故障诊断特征提取时，为了达到预期的泛化能力，会使用小波包分解技术对电路瞬态响应信号进行充分的分解，得到信号所有的高低频部分小波特征系数，但由于小波包分解所得的特＂＂征数据维数会随着小波包分解层数的增加呈指数级增长，引起维数灾难，且数据因为元件容差，，多非线性、流形分布最终导致使用基于模式识别的分类算法计算量大、无法收敛等问题。这些难题也是目前机器学习和模式识别领域处理高维数据所面临的最严峻的挑战。在具体工程研究中，用于度量模式的变量个数越来越多，如何有效的在低一一、，提取出有用的信息维空间中描述模式，是目前需要解决的核屯问题之。个模式识别系统中，基础的因素是用来描述研究对象的特征。若特征与问题关系很，，分类效果都不理想。特征间存在冗余信息弱采用什么样的分类器，也会使分类速度大大减慢一。提取和问题密切相关的特征是模式识别的关键步骤之，因此有必要搞清楚模式识别领域中特征提取和特征选择。一一Ｍ特征选择，就是从组数量为Ｗ特征中选择出组数量为最化特征Ｗ一（Ｍ＜Ａ〇。送里需要解决两个问题：１）选择种可分性判别作为最优特征选择的标准一一；２）找到个好的算法，来选择出这组最优特征。对个原始特征来说，，特征选择的方案有很多从Ｗ维特征中选择出Ｍ个特征共有诚—Ｍ）＼一种选择法，，那种是最佳就要找到个原则来进行指导。特征提取，是通过变换一来突出某模式组中具有代表性特征的种方法，。当要处理高维原始数据时映射或者变换能获得最有效特征，便于表示特征样本，这个实现降维的过程称为特征Ｗ提取。通过特征选择方法可Ｗ得到最佳的输入特征子集，而通过特征提取方法可Ｗ构造和重新组合新的特征向量一。对于般简单的问题，研究者往往会选择优先执行特征提取方法，将特征从感知器的高维数据中提取出来，然后在执行特征选择方法，，将那些鉴别能力低的特征舍弃。在实际工程应用中具体的选用特征提取还是特征选择要根据问题领域和训练集的恃殊性来决定。特征选择可Ｗ保持被选Ｗ，特征的本质属性这些本质特性往往会更有利于模式的产生。特征提取，通过，相对于特征选择来说，重构的特征，会产生比其选择的产物具有更佳的识别效果Ｗ但需要人们注意的是，重构的特征可能会失去原有的物理含义。针对高维数据在分析和处理时的不便，对其进行维数约减并提取最主要的成５ 北方工业大学硕±学位论文分就成为高维数据分析的迫切任务。当前，利用数据降维技术对高维数据进行维数约减Ｊｌ，总结起来，期望能实现：ｌｉ下目的１．有效的压缩数据，节约存储空间，减少数据量和计算量，从而有效的降低计算化的开销。２．降低高维数据中的噪声影响。高维数据包含丰富的信息，其中也包括部分噪声信息，对高维数据进行维数约减，提取分类所需的主要成分，删除冗余的噪声维数—，可Ｗ定程度上降低高维数据中的噪声信息影响。—＂＂＂＂一３．定程度上解决维数灾难问题。维数灾难问题直制约着传统数据处理与分类方法，通过将高维数据维，使其面对高维数据处理时效果不理想数约简，，然后利用智能算法进行处理将会有效的避免产生维数灾难问题。４．挖掘数据中人类真正感兴趣的知识，实现机器学习良好分类的目标。维数约减，减少在分类问题中不起作用的特征向量，有效地提高分类。５．增强对数据的感性认识。降低高维数据维数，可很直观的观察数据的本质结构，增强高维数据的可视化效果。１．４流形学习的国内外研究现状Ｗ流形学习方法的研巧工作始于１９８４年Ｈａｓｔｉｅ在报告中提出主曲面的概念。＾随后研究者将其运用在很多实际工程中来处理非线性的数据。Ａｍｉｎｉａｎ等在研？究模拟电路故障诊断时获取电路响应数据的非线性几何结构；Ｂｒｅｇｌｅｒ在语音识＂别研究中也发现语音数据存在复杂的非线性结构。同年Ｂｒｅｇｌｅｒ首次提出了流＂９一＂形学习词，并应用在语音识别研究中０００ｅｕｎ哺Ｄａｎｉｅｌｃｉｅ。２年Ｓｇ在《Ｓｎｃｅ》上发表的Ｈ篇有关流形学习的文章、。文中他们站在神经屯理学的角度提出人类的感知方式＾心流行形式存在，并初步给出流形学习的生物学认知基础。流形学习方法目的是找出隐藏在高维数据中的低维流形结构。通常假设样本数据嵌入在高维空间中的低维流形上，因此其可被认为是挖掘数据的低维、非线性所具有的流一Ｗ形结构的本质特征的种有效的方法。数据的高维流形分布，使其具有非线性一结构的特性，正是这特性给数据降维的建模研究上带来了很大的困难，Ｕ＂一Ｔｅｎｅｎｂａｕｍ和Ｒｏｗｅｉｓ提出了种基于局部线性和全局非线性的研究方案。他一个流形上的数据们通过假设分布在同，在维数不同的嵌入之间存在个别特征保一持不变（，达到能够寻找到个可＾最大程度上保持这些不变特征的低维最优嵌入，并将问题归结为最优化求解的问题随后构建了等度量映射和局部线性嵌入两种流形学习方法。其中前者能够保持局部长度特征，后者可Ｗ实现保持近邻６ 北方工业大学硕±学位论文点的线性关系特征。从２０００年《Ｓｃｉｅｎｃｅ》杂志上发表了使用ＬＬＥ与Ｉｓｏｍａｐ进行流形学习的算法开始，为流形学习在机器学习领域开辟了新的研巧道路，随后Ｗ这两种算法结构为基本的流形学习方法相继问世。随后研究中，研究者又相继提出了很多新的流形学习算法，其中较为常用的有Ｌａｐｌａｃｉａｎ特征映射算法（ＬＥ）、最大差异展开算法（ＭＶＵ）、局部切空间排列算法（ＬＴＳＡ）、黎曼流形Ｗ学习算法ＲＭＬ等。（）为了获得原始数据集的內在结构知识，人们往往会采取分析嵌入的向量集的一特征。嵌入方法所构建的样本与样本之间的复杂关系通常用个矩阵来表示，然后根据频谱分析方法可Ｗ得到嵌入向量。根据描述特征数据之间的局部与全局的Ｗ。关系的方式不同，Ｗ及对嵌入所作的假设不同，可将嵌入方法分为很多类一一等度量映射般是被视为全局方法的代表，局部线性嵌入算法般是局部方法的的还有ＬＥ３、ＬＴＳＡ等。此外Ｗｅｉｎｂｅｒｅ产代表，其他ｇ等提出了半正定嵌入算法－Ｍａｘ〇ＳｅｍｉＤｅｆｉｎｉｔｅＥｍｂｅｄｄｉｎｇＳＤ巧，随后又将其发展为最大差异伸展算法ｉｍｕｍ，（ＶａｒｉａｎｃｅＵｎｆｏｌｄｉｎｇＭＶＵ。在ＭＶＵ算法中，引入半正定规划是该算法的主要蒋，）点之一习方法的主要区别是其将学习问题转向核矩阵凸，该算法和之前的流形学ｔｗｔｗ一优化问题，它也经常被视为是种基于核的学习方法。北京大学Ｌｉｎ等提一Ｒ出种基于局部切空间递推对准的黎曼流形学习算法（ｉｅｍａｎｎｉａｎＭａｎｉｆｏｌｄＬｅａｒｎ。流形学习的线路发展线路如图１－３ｉｎｇ，ＲＭＬ所示。）＾等距特征映射Ｉａ２０００ｓｏｍｐ，年）＾￣ＸＸ局部线性嵌入＾Ｘ的感知（Ｌ比，２０００年））／、Ｖ■…．可能＾＜１流＾＂方式存拉普拉斯特征映射／＼Ｓ＾＼ＬＡＸＪ（ＬＥ．２００３年）＾＼ｅ研巧发现髮出更多ｆｔｉＳ提出流。Ｊ＾＊＾流形学（肌Ｕ２００４音望警資行学习，革）ｊ具有内在Ｎ／一词Ｗ习算法Ｉ低维结构Ｊ、ＶＪ局部切空间对齐Ｖｙ＼（ＬＴＳＡ，２００５＾）ｙＪ黎曼流形学习（ＲＭＬ，２００８年）Ｊ图－３流１形学习发展的路线图７ 北方工业大学硕±学位论文１．Ｓ流形学习降维技术在工程上的应用一种探索高维非线性数据的途径流形学习维数降低技术，提供了，是近期研Ｗ一巧的个热点。流形学习方法的非线性、几何直观性和计算可行性，使得它在ＷＵ＂很多实际工程应用变得越来越广泛。２０１０年刘新东提出了基于ＬＬＥ和支持＾向量机技术的故障特征降维方法并应用于模拟电路软故障诊断中。廖剑２０１５一年在模拟电路故障特征的降维处理中，，提出种基于局部线性判别分析降维方法利用数据的局部判别信息来处理非线性数据，克服ＬＤＡ的小样本问题，在模拟电路故障特征提取中取得较好的效果。尽管流形学习方法对高维、非线性数据有一些的不足很好的降维处理效果，但其在实际工程应用中仍存在，例如对噪声比较敏感、小样本等，经过研究人员的不懈。然而人们对流形学习的探索从未停止一？努力，些针对性的解决算法也相继实现。２００６年ａｎ提出的鲁棒局，Ｃｈｇ等部线性嵌入算法，消除了原始的ＬＬＥ算法对噪声敏感的问题。２００８年，Ｌｉ等提出的局部线性判别嵌入算法，有效的克服了小样本和样本外点的问题。当前，流形学习方法的应用包括Ｗ下几个方面：１）数据的可视化。若低维流形嵌入到高维空间中，则数据样本在高维空间中的分布虽然看上去非常复杂，，但在局部上仍具有欧式空间的性质，因此可Ｗ容易地在局部建立降维映射关系，然后再设法将局部映射关系推广到全局，当降维被降至兰维甚至是二维，，使用基于流形学习，能对数据进行可视化展示因此方法的数据降维技术被很好的应用在手写数字形状、头部姿态和手形等相关研巧的可视化方面。２）信息检索。信息技术的飞速发展，文本信息的应用日益普遍。如何进行有效的管理规模庞大的文本数据库成为当前急需解决的问题。高维大规模和非线性结构是这些文本信息数据的主要特点一一。解决这问题的关键技术之是需要灵活、高效的信息检索策略技术。利用流形学习方法处理信息数据检索，不仅降低Ｗ？，还保留数据在原高维空间的近似性。了时空复杂度例如，卢进军等将局部线性嵌入算法成功应用于基于内容的图像检索中，取得了良好的检索结果。３）机器视觉。流形学习降维技术在计算机视觉方面随着信息技术的发展应用越来越普遍。目前基于流形的维数约简技术己经在生产控制、图像和视频数据的处理、视频监控与分析等。４）交通信息。目前基于流形学习方法的数据降维技术己经开始应用于基于车辆信息采集的智能交通控制系统中，对于车牌信息识别、驾驶员饮酒或疲劳状态检测、车型信息采集和交通道路路况预测等得到了较好效果的运用。８ 北方工业大学硕±学位论文１．６本章小结、本章中，详细分析课题来源及研究意义，针对工程应用中数据多呈现出髙维非线性的问题，对数据进行有效的维数约简Ｗ期得到隐含的内蕴特征变得尤为迫切。在数据不存在理想的线性可分情况下，线牲降维技术无能为力时，研究了非一流形学习降维技术线性降维技术。给出流形学习相关基拙，并介绍了工程中数，通过特征选择和特征提取两个概念说明了数据降维技术据降维问题，并给出数据降维技术在实际工程上的应用及介绍了流形学习相关的研究现状一。在下章节，将详细介绍有关模拟电路故障诊断的研巧工作。９ 北方工业大学硕±学位论文第二章模拟电路故障诊断及其数据降维２．１模拟电路故障诊巧现状臟随着电子技术的不断发展，大规模模拟集成电路应用越来越广泛，在这些集成电路中模拟电路所占比例高达８０％，因此模巧电路的故障检测与诊断是提高系Ｗ３统可靠性的关键。模拟电路故障诊断主要任务是解决在己知电路拓扑、输入信＾ｗ号和出现故障时电路的响应时判定电路故障类型、器件和参数的问题。Ｂｅｒｏｗｉｔｚ于１９６２年建立了部分元件可解性的必要条件开启了最早模拟电路故障诊断研究，＾走十年代后期Ｎａｖｉｄ和Ｗｉｌｌｓｏｎ发现了线性电阻元件可解性分析的充分条件，奠定了模拟电路故障诊断坚实的理论基础一。这时期故障字典法和参数辨识法得到了比较广泛的研究。八十年代，故障诊断的研究方向从求解全部电路元件转移到部分元件Ｗ及多故障诊断，更加重视电路可测性研巧。１９８５年Ｂａｎｄｌｅｒ和＂５＾Ｓａｌａｍａ系统论述当时模拟电路故障诊断的主要方法和原理，完善了模拟电路故一时期出现的典型方法包括故障验证法和失效定界法等障理论。这。九十年代，模式识别技术的不断发展，为模拟电路故障诊断提供了新的解决方案。近年来基ＳＷＵ’Ｗ’ＷＷＭＷ’＂３于神经网络、遗传算法、小波理论、支持向量机、人工免疫、Ｗ克隆选择等模式识别技术的被广泛应用于模拟电路故障诊断领域，并成为迅速研巧热点。由于模拟器件参数容差、输入输出均为连续信号、电路非线性、故障复杂等特性及信号观测手段、征兆提取方法、诊断知识完备程度及诊断经济一直进展缓慢性的制约，使得模拟电路故障检测与诊断研究，直至目前多数模拟电路的故障诊断还都通过人工完成。即使目前智能诊断算法具有不需要求解电路方程，、不需要用户具备电路知识等优点但是该类算法的效果取决于训练出的诊断模型。而这需要覆盖全面故障的海量数据、高效的特征提取算法、良好的分类算法，。目前大量研究多注重神经网络等分类算法对故障特征提取与构建则主要为验证提出的算法根据经验完成，缺乏系统性研究。２．２模拟电路故持诊断总体流程－基于模式识别技术的模拟电路故障诊断的总体框架如图２１所示，包括两个阶段：诊断算法训练阶段和故障诊断阶段。两个阶段均包括电路数据采集、故障特征提取、典型故障特征构建、故障分类算法训练、识别结果等五个主要阶段。１０ 北方工业大学硕±学位论文电路数据采集ｓｓ＇Ｉ典型特征＾Ｉ信号一ｊ１哀ＩＩ厨］Ｎｏｎｎａｒ状态特征Ｉ｜邮［｜｜＿＿一＿１Ｉ化杰恃冲断ｌ＾ｒｍａｌ各节点电压数据集｜｜柄，１１．Ｉｌ１Ｆａｕｌｔ＇一＾一＾＾算ａｕ特征ｉＦａｕｌｔｌ各节点电圧数据集ＩＩ统征ＩＩＦｌｔ２状态１Ｆａｕｌｔ２＇Ｆａｕｌｔｓ寄节祉即空勤Ｉ．＿……職征，（Ｉｒｔ＂ａｕｌｔＴｉ态特征Ｉ背Ｉｐ｜！ｊＶ迎－／＾蘇化各节点电压数据集Ｉ阳山Ｉ丫么／厂评价与反馈Ｉ故＿＿＾■一■■ＩＩＩＡＩｍ暗被测电路、ｒａｗｉ．．Ｗ、ＩＲｉｒ＾＾＾￣＾＾诊状态集征提取征构建诊断结果断Ｉ２－图１模拟电路故障诊断的总体框架一第阶段为电路数据采集。在算法训练阶段，该模块要采集故障分类器训练所需要的数据，该模块采集被测电路板的实；在故障诊断阶段际运行状态数据。由于模式识别类算法只能识别所有被训练过的己知故障集，因此诊断算法训练阶段的输入数据是决定算法成败的关键。为此，在训练阶段，不但需要采集电一路正常状态下的激励与响应数据，还要通过人为逐注入各单类故障的方式采集。全部故障集的状态数据为了模拟电路中模拟器件容差的影响，在任意状态下，还需要通过蒙特卡洛仿真等技术手段模拟任一个模拟器件的值发生容差范围偏移的情况，并采集各种偏差情况下状态数据进行训练。模拟电路故障诊断的训练－２所示数据和实测数据的构成如图２。Ｎｏｄｅｌ＼Ａｊ＼ｆ＼Ｊ襄Ｎｏｄｅ２讓害￣＿■Ｉ：Ｚ：ＩＩＩｔｆＮｏｄｅｎ＼／＼／＼／＼Ｉｉ进行各种模拟器件的蒙特Ｉ？卡罗仿真，模拟器件容差生成全部可能的状态数据一图２－２电路任状态采样数据示意图１１ 北方工业大学硕±学位论文从数据来源上区分一，电路状态数据主要有仿真采集和实测采集两种。前种方式是在己知电路原理图的前提下通过电路仿真软件得到大量正常和注入各类故障后的状态数据，通常用来进行故障分类器的训练。实测数据通常是采集被测电路板的实际运行信号，低效，耗时，主要用来进行实板的测试和验证。第二阶段为故障特征提取。该模块无论是在诊断算法训练阶段还是故障诊断阶段，都执行相同的特征提取与构建过程。由于采集的电路状态数据十分庞大，为保证识别算法的成功与效率，在对输入数据进行格式转换等预处理的基础上，必须进行非常巧妙地特征提取与构建，将故障样本数据中具有代表性的特征用少量的数据表示出来Ｗ减少分类算法的输入数据维度。第Ｈ阶段是典型特征构建，。通过特征提取阶段的处理电路原始状态数据变成一系列特征提取算法的参数集一。为进步压缩数据规模，需要对结果数据进行取舍或降维等数学建构过程，甚至结合领域专家知识，构建出用于诊断的典型特征。为保证诊断效果，该过程要求在诊断算法训练阶段和故障诊断阶段保持相同。第四阶段是分类／诊断算法的训练。此阶段将提取到的故障特征向量作为故障分类器的输入，在神经网络、支持向量机、模糊推理系统等典型分类器训练算法一控制下反复学习直至收敛，得到针对特定电路故障集的诊断知识。旦训练完成，分类器在诊断阶段保持固定不变。一最后个阶段是识别结果与反馈与评价。在训练阶段，反馈评价模块根据分类器输出的中间识别结果调整分类算法训练参数（在分类算法不收敛时，则需要调整故障特征提取参数或改变提取方法）；训练完成后该模块给出最终诊断结果。在故障诊断流程中，提取恰当的故障特征是是模拟电路故障诊断的首要任务一和关键环节，３，它决定着智能诊断算法的最终诊断率本章第节更进步的讲解目前在模拟电路故障诊断领域中，应用最为广泛的基于小波分析的模拟电路故障特征的提取方法。２．３模拟电路故持特征提取方法一故障特征选取关系到故障知识库与故障诊断的效果和效率，因此直是故障诊断中最关键的技术，而且在发生。如前文所述，模拟电路响应多为非平稳信号，故障时，因故障信号通常具有极小的信噪比反映故障变化的信息也很容易淹没一。在海量数据中，很难通过常规手段将它检测出来小波变换是种对信号高频和低频部分同时进行处理的精细频带分解与重构方法。小波变换可对模拟电路信号按任意时频分辨率分解，通过小波变换后，待分析信号就投影到时间和尺度二维２１ 北方工业大学硕±学位论文。向平台上小波变换可利用时间域和空间域局部性的基函数表示非平稳信号，将信号表示为不同分辨率下有限个分量的和。此外每个分量还可Ｗ根据需要进行自适应处理，从而能自动适应时頻信号分析的要求，从而可聚焦到信号的任意细节。。到目前为止，小波分析已是故障诊断领域最频繁使用的特征提取技术＾常规的小波分解只可１＾１将小波分解为低频和高频成分，然后再将低频部分分。解为低频和高频两部分，其中低频成分对应近似系数，高频成分对应于细节系数一此后可对低频进行指定层次的分解。但其缺陷就是此后对每层的细节系数都一不做分解，这就会丢失原始信号的部分特征信息，即如果特征频段恰好存在于高频成分信号中，则容易造成特征信息丢失。而与之对应的小波包分解（ＷａｖｅｌｅｔＰａｃｋｅｔＤｅｃｏｍｐｏｓｉｔｉｏｎ，ＷＰＤ，它可对输入信号髙低频部分同时进行分解从而对）一层的高输入信号中的隐含特征进行充分的挖掘，对低频成分分解的同时，对每。频成分进行同样的分解，得到细节系数变量模拟电路故障信号经过小波包分解一过后，信号高频部分与低频部分得到的分解成分样多，再使用它们构造出来的特征－３，就不会丢失高频成分的有效特征信息了，具有更强的泛化能力。如图２所示－Ａ，小波分解和小波包分解的示意图。在图２３中，Ｓ表示要处理的信号，表示低频，Ｄ表示高频，末尾的序号数表示分解层数。￣ｓｌＴ［￣ｆｆ？ＤＡＤｉＡｉｉｉ。ｒ丄Ｉ１▼▼ｔＴｆ＾ＡＡ２ＤＡ２ＡＡ２ＤＡ２Ａ０Ｄ０２２Ｉ＇ｆ＾＊＊ｉｉｉｔＡＡＡ３ＤＡＡ３ＡＡＡ３ＤＡＡ３ＡＤＡ３ＤＤＡ３ＡＡＤ３ＤＡＤ３ＡＤＤ３ＤＤＤ３图２－３小波分解和小波包分解的示意图２．４横拟电掛致巧谗巧工程巧维问厘在模拟电路故障诊断中，数据的海量特性体现在用于电路诊断训练的电路状态数据千分庞大一２０。个简单的例子，按照仅包含个模拟器件的中小等规模的。电路进行测算，如果电路中包含１０个采样点假设每个采样节点采集１０００个离Ｍ一一散数据点表示节点响应数据（如采样频率５，２毫秒）。则电路每种状态的个数据集包括１００００个数据（１０节点＊１０００点）。假定电路有８０种故障状态（含１３ 北方工业大学硕±学位论文一－正常状态３４种故障），８０００００８０，平均每个器件则个数据集需包括个数据（种＊１００００个）；为了模仿容差的影响需进行蒙特卡洛仿真采集模拟器件不同参数状态进行训练，，假定模拟器件的容差为１０％仿真时每次偏差１％进行仿真，则每个器件需要进行２１次仿真，共需要４２０次仿真。则进行算法训练的数据最后＊＾包含３．３６１０８个数据。在模拟电路发生故障时，其电路瞬态响应多为非平稳信号且含有丰富的故障信息。目前，基于小波变换信号处理技术进行特征提取是当前研究的热点。小波在时域和频域均具有良好局域性和优越的噪声消除能力，尤其适用于非平稳信号的处理。当前，广泛被采用的小波包分解技术在提取故障信息中存在下两点不。＂足：１）小波包对模拟电路故障信号的分解层数过少时，故障信息不能够完全析＂取出来。很多文献利用ＤＢ３小波包对故障信号进行３层分解，并Ｗ故障基本＂为由，，提取完全，停止小波包分解导致故障信息并没有完全被提取丢失特征信息，导致诊断算法效率低。２）为了增强泛化能力，当分解层数过大时，模巧电路故障信号特征的维数＂＂会随着分解层数的增加呈指数形式增大，从而导致维数灾难的问题。事实上，构建准确高效的故障特征，减少输入数据维度，更能提高分类算法训练的成功概率，并大幅度缩短训练时间，提升算法分类效果。因此提取恰当的故障特征成为模拟电路智能诊断的关键环节与首要任务。小波变换通常需要对故障电路进行连续采样Ｗ获取电路状态的特征信息，但经此过程选取得到的故障特征往往都具有维数高、数量大的特点，若直接作为分类器的输入，会导致诊断算法计算量大、收敛速度慢的问题，。因此在故障诊断时对获得的故障特征组合数据进行适当的维数约简变得尤为重要。评价特征提取技术所提取的特征是不是和一问题紧密相关，需要用诊断算法进行诊断，在下节将简单介绍本课题所使用的克隆选择诊断算法。２．５智能诊断？法简介从上世纪九十年代开始，模式识别技术得到快速发展，为模拟电路故障诊断提供了新的解决方案。基于模式识别技术的智能诊断算法的原理是测前先通过对正常与故障状态下大量采样数据的分析，提取各种状态下隐藏的模式，通过各种智能分类算法的训练形成诸如故障字典等诊断知识。需要进行故障诊断时，通过采集电路状态数据、提取故障模式，输入分类器然后得到故障模式识别结果，从１４ 北方工业大学硕±学位论文而判断有无故障及是何类故障。因此分类算法和特征构建是模式识别算法的两个核也环节，近年来基于遗传算法、神经网络、支持向量机和人工免疫等模式识别技术的被广泛应用于模拟电路故障诊断领域，并成为迅速研究热点。本课题选择Ｍ使用基于人工免疫技术的克隆选择作为智能诊断算法，它是已被证明远比神经ｔ＂３网络要高效且收敛速度快的诊断算法。在生物免疫学中：，克隆选择被描述为当淋巴细胞完成识别抗原过程后，抗一体和抗原的亲和度会达到某个值。当亲和度超过定的阀值后，生物体内的Ｂ细胞被激活，开始不间断地复制生成Ｂ细胞的克隆。然后由克隆产生的细胞会经历变异，并产生大量的对抗原具有特异性的抗体，经过变异后的免疫细胞，分Ｕ２３、化成了效应细胞和记忆细胞两种。其核也为；抗体侵入有机体，免疫细胞会受到抗原刺激，并产生克隆细胞，克隆细胞増殖后，通过变异分化为抗体细胞和记忆细胞。人工免疫算法所依据的免疫学原理主要是免疫系统的特异识别原理，即抗体ＵＳ３结合抗原的过程。彭良玉等根据人王免疫算法思想实现了人工免疫系统在模拟电路故障诊断工程上的应用，并提出克隆选择算法用于故障诊断大致通过Ｈ个阶段完成：１．选择故障训练样本。２、．利用训练样本对系。统进行训练，得到各故障模式的聚类中屯ｆ＂３３．利用得到的聚类中也对电路的各种故障样本进行分类。，定位故障元件Ｕ＂王勤勇等在彭良玉的研究基础上对算法中的判决条件中设定统一的判定。半径进行改进，实验结果提高了故障诊断率２．６本章小结本章主要介绍了模巧电路故障诊断现状，说明发展缓慢的原因；详细分析了模拟电路故障诊断流程主要包括：电路数据采集、故障特征提取、典型故障特征构建、故障分类算法训练、识别结果等五个主要阶段；介绍了模拟电路中常用的小波分析特征提取方法：给出了模拟电路引起维数灾难的原因，特征数量大、维数高；最后对要用来进行验证的克隆选择诊断算法进行简单介绍。１５ 北方工业大学硕±学位论文第Ｈ章两种典型的流形学习数据降维方法ｆｗ２０００年Ｓｅｕｎ等在《Ｓｃｉｅｎｃｅ》上发表的文章中站在神经屯、理学的角度上ｇ探讨了人类的感知方式，指出其是流形方式存在，并初步推断出流形是人类感Ｗ知基础，这也奠定了流形学习的生物学认知基础。同期《Ｓｃｉｅｎｃｅ》杂志上也发表了另外两篇关于流形学习算法的文章，提出了等度量映射和局部线性嵌入。随后研究中，研巧者又相继提出了很多新的流形学习算法，其中较为常用的有Ｌａｌａｃｉａｎ特征映射算法（ＬＥ）、最大差异展开算法（ＭＶＵ）、局部切空间排列算ｐＷ法（ＬＴＳＡ），黎曼流形学习算法（ＲＭＬ）等。本文重点介绍Ｗ全局保持特性的Ｉｓｏｍａｐ算法和Ｗ局部保持特性的ＬＬＥ算法，通过比较两种算法的主要特化为课题研究内容中所使用的关键降维技术提供理论依据。３．１等度Ｓ映射＂ｗ一等度量映射算法，是Ｔｅｎｅｎｂａｕｍ在２０００年提出的种基于流形学习的非Ｗ一线性维数约简算法。直Ｗ来，等度量映射算法与同年提出的局部线性嵌入算一同被认为是对流形学习研巧的开山鼻祖法。等度量映射算法的出发点认为低维流形嵌入到高维空间之后，直接在高维空间中计算直线距离具有误导性，因为高维空间中的直线距离在低维嵌入流形上是不可达的－（Ｃ。如图３１）所示，低维嵌一一一一。想象下，只虫子从点爬到另点入流行上两点间的距离是测地线距离，－如果它不能脱离曲面行走，那么图３１（Ａ）中的蓝色曲线就是距离最短的路径，即Ｓ曲面上的测地线，测地线距离是两点之间的本真距离，显然直接在高维空间中计算直线距离是不恰当的。ＡＢＣ吃．；铅為；某．巧．ｄ：护Ｉ祭咕怒：１：１．ＩＩ？；之＾每诚图３－１低维嵌入流斤上两点间的距离是测地线距离６１ 北方工业大学硕±学位论文一那么如何计算测地线的距离呢？等度量映射算法采用的观点是，仅对每对样本点之间的测地距离能映射出流形的真实结构。我们还可利用流形在局部上与歐式空间同胚这个性质，对每个点基于欧式距离找出其近邻点，然后就能建立一个紧邻连接图，图中近邻点之间存在连接，而非近邻点之间不存在连接，于是计算两点之间测底线距离的问题，就转为计算紧邻连接图上两点之间的最短路径问题３－１），从图（Ｃ中可Ｗ看出，基于近邻距离逼近能获取低维流形上测地距离很好的近似。虹ｓｍａｐ算法描述如下：｜＝输入：样本集２）ＸＸ…３：；近邻参数１£；＾＾。｛ｉ，２，，巧｝低维空间维数…＝过程：１：ｆｏｒｉｌ２，ｍｄｏ，，，２：确定Ｘｉ的Ｋ近邻；３：Ｘ与Ｋｊｆｉ邻点之间的距离设置为欧式距离，与其他点的距离设置为无ｉ穷大；４：ｅｎｄｆｏｒ５：调用最短路径算法计算任意两点之间的距离ｄｉｓｔＯｃｆ，ｘｐ：６：ｄｉＳｔＭＤＳ将（為，句）作为算法输入；７ｒｅｔｕｒｎＭＤＳ：算法输出＝．．．．输出：样本集Ｄ在低维空间的投影ＺＺＺＺ｛ｉ，２，，ｍ｝：ｘｎ的算法时间复杂度分析首先，计算ｎ最短路径距离矩阵，采用迪杰斯特２拉算法时间复杂度为０ｆｃｎｋ）从为近邻数大小）。然后计算应用ＭＤＳ计算特（ｇｎ）３１＂征分解时］。，由于距离矩阵式稠密的，所１＾１特征分解的计算复杂度为０如）等度量映射算法使用时，对于新样本映射到低维空间中，通常采用将要降维的训练样本中的高维空间作为输入一，低维空间中的坐标作为输出，训练个回归Ｗ学习器来对新样本的低维空间坐标进行预测。３．２局部线性嵌入局部线性嵌入数据降维技术是在２０一００年由Ｓａｕｌ和Ｒｏｗｅｉｓ提出的种基于ＵＷ流形学习的非线性维数约简方法。算法思想是将全局非线性转化成局部线性，一个线性或近似线性的局部邻域假定每个数据点与其近邻点位于流形的，在该邻域中数据点可Ｗ有其近邻点表示，重建低维流形时，相应的内在低维空间中的数据点保持想同的局部近邻关系一，这样就可Ｗ把髙维输入数据映射到全局唯的低ｗ’＂’＂３维坐标系统中，实现降维。这种想法拓展了人们对于维数降低的认知。也正因此基本思想，让局部线性嵌入算法在进行维数约简后保持原始数据原有的拓１７ 北方工业大学硕±学位论文扑结构不变。一姐具有嵌入特性的数据集对于，其内在的低维空间和嵌入空间的局部邻域间的关系应该不变。它试图保持邻域内样本间的线性关系。假设样本点Ｘ的坐标ｉ能通过它的邻域样本Ｘ、Ｘｆｃ、的坐标通过线性组合表示出来。有：ｙ－ＸＷＸ＋Ｗ＋Ｗ机３－１广ｙｙ的ｋ（）ＷＭ／Ｗ，其中，化，为权重系数样本经过ＬＬＥ维数降低后能得到，在ｉｕｙ低维空间中的投影对应＇ＸＸＸ＇Ｘ也能通Ｘｉ与；９、ｆｃ、分别对应的投影／、ｆｃ、／过线性姐合重构出来，即＇Ｘ＾ＷＸ＋ＷｋＸｋ＋ＷＸ－２ｉｉｊ／ｉｊｉｉｉ口）这样，我们希望映射前后Ｗｉ，Ｗｉｆｃ，Ｗｙ得保持。ｊＬＬＥ算法的基本步骤综上可知，线性组合关系只能在邻域附近发挥作用，离样本点距离较远的样本对局部线性组合关系没有影响，这样就可Ｗ降低维数约简Ｗ的复杂度－。ＬＬＥ算法的基本步骤如图３２所示，。？选取巧本乂邻域点。，？—Ｖ０。〇？．、。义４．＼？。。？１。０？＼？〇０〇■？〇。。。＇＇③．产。ｊＷ正＂‘Ｃ家计算邻？化巧本对。Ｘ一．。。＞乂／的垂构权倘／。：、全：Ｕ？，〇０？／０．■〇，，＇—＇．保持里构系数将巧本ｙ＼Ｗ°〇〇映則巧低维蚁入空间＠图３－２ＬＬＥ算法的基本步骤ＬＬＥ算法可Ｗ归结为Ｈ步；１）寻找每个样本点的ｋ个近邻点；２）由每个样本点的近邻点计算出该样本点的局部重建权值矩阵。３）有该样本点的局部重建权值矩阵和其近邻点计算出该样本点的输出值。１８ 北方工业大学硕±学位论文ＬＬＥ先为每个样本Ｘ找到其近邻下标集合＆？ｆ，然后计算出基于＆中的样本点对进行线性重构的系数Ｗｉ：Ｚ碟ｘ广ｉ｜的ｌＩｌ；；；：豈＾ｚ３－３（）Ｓ．ｔ．ＺＥＱＷ＝１ｊｉｉｊ了＝Ｘ—Ｘ—ＸＷＸ，均为己知Ｘ有闭式解，其中，令Ｃｆｃｆｃ），ｆ句ｉ（ｆｊ（ｊ）ｙＳＣｆｃｅＱｋ；ｊｗ＝ｙ口振岩？ＬＬＥ在低维空间中保持Ｗ不变，于是Ｘ对应的低维空间坐标Ｚ可通过下式求ｆｆｆ解：ｚ。－５ｒｊ广ｓ）式告片，哨一３－３３－５）－式）与（的优化目标同形，唯的区别是（３３）中需要的是Ｗ，而（ｆ式（３－５）中需要的是对应的低维空间坐标Ｚ。ｆ＇ｄｘｍ令Ｚ＝Ｚｅ化ｗ＝Ｗ〇ｉ，２，，（）ｙｙ，ｒ－－Ｍ＝（／Ｍ〇Ｍ－（７〇口句３－则式（５）可ＵｊＩ重写成，ｎｕｎｔｒＺＭＺ（Ｙ３－７（）ｒ＝ｓ义ＺＺ／＇３－７式（）可Ｗ通过特征值分解求解；Ｍ最小的ｄ个特征值对应的特征向量Ｔ组成的矩阵即为Ｚ。ＬＬＥ算法的描述，如下所示：＇输入：样本集２）＝ＸＸ．．．乂；近邻参杞＾＾。｛ｌ，２，，＾１｝数低维空间维数＝…过程：１；ｆｏｒｆｌ２７７１ｄｏ，，，，２；确定Ｘ的Ｋ近邻；ｉ３３－３：从式（）求得巨／＆；＝４：对于ｇ＆１＾０ｙ，令＂；５：ｅｎｄｆｏｒ１９ 北方工业大学硕±学位论文６－Ｍ：３５）中求得从式（；７：对Ｍ进行特征值分解；８；ｒｅｔｕｒｎＭ的最小个特征值对应的特征向量Ｄ在＝输出；样本集低维空间的投影Ｚ２时间复杂度分析：选择邻域的计算复杂度为〇（０ｎ计算重构矩阵的计算复杂度），２２ｗ为０（（Ｄ＋ｆｃ）ｆｃｎ）：求解低维嵌入Ｙ的计算复杂度为０（ｄｎ）。３．３ＩＩ法比较比较两种典型的流形学习方法可知，Ｗｌｏｓｍａｐ为代表的全局特性保持方法一它是在多维尺度分析基础上提出的种非线性维数约简方法。其核也思想是保持点对在流形上的测地线距离不变，利用其高维观测样本所在流形上的测地距离可Ｗ直接由低维嵌入结果来表示，使用多维尺度分析将数据嵌入到低维空间。ＷＬＬＥ为代表的局部恃性保持方法主要通过保持高维观测数据与内在低维空间的局部几何共性来发现嵌入在高维空间的低维流形，选择不同的局部模型和不同的整合排列技术会得到不同的局部特性保持方法，而且相对于Ｉｓｏｎｍ，ＬＬＥ算法ｐ具有时间复杂度小一、参数少（ＬＬＥ只需在第步给定Ｋ值）等特点，为本文选择使用ＬＬＥ作为模拟电路故障特征数据降维和特征提取方法提供理论依据。３．４本章小结本章首先探讨了Ｉｓｏｍａｐ和ＬＬＥ两种典型的流形学习方法，介绍了两种流形学习降维算法的基本思想和算法描述，然后对两种算法进行比较，通过比较时间复杂度和参数数目，得出ＬＬＥ算法运算量小、参数少等优点，为后面验证实验主要使用时ＬＬＥ算法进行数据降维提供理论依据。此外，本课题重点讨论使用小波包分解结合基于流形学习方法的ＬＬＥ数据降维技术，来解决模巧电路故障诊断工程中特征维数约简问题一，在下章节主要研究的是模拟电路故障诊断中通用的故障特征提取技术实现方案及使用ＬＬＥ算法进行优化的方案。２０ 北方工业大学硕±学位论文第四章模拟电路故障诊断特征提取应用小波分析良好的局部特性，分析和处理模拟电路故障响应非平稳信号，一能够得到很好的特征提取效果，现己成为模拟电路故障特征提取的重要方法之。，细节方面例如但对于通用的小波特征提取技术相关研究中，如何选择最优小波基一些、如何确定最优分解层数和如何选取最优小波系数构造特征等，仍然缺乏理论性的指导，大多依靠专家经验来做实验进行研究。此外，在使用小波分析提，随着小波包分解层数的增加，取故障特征时，特征维数会Ｗ指数级别增长对高维特征进斤诊断时，可能会导致计算量大、算法收敛慢和诊断率低的结果。为了一进步得到最优故障特征，本课题对小波分析得到的故障系数特征，结合ＬＬＥ一算法进行降维处理，进步优化故障特征向量期得到更高的识别率。４．１通用的特征提取技术模拟电路故障诊断，依靠提取出的特征来进行故障识别与定位，因此，故障特征选取的好坏，关系到故障知识库的构建，同时也关系到故障识别效果。因此，一直是模拟电路故障诊断需要突破的难点与关键技术特征提取技术的研巧。模拟电路响应多为非平稳信号，而且在发生故障时，因故障信号通常具有极小的信噪比，反映故障变化的信息也很容易淹没在海量数据中，很难通过常规手段将它检一测出来。小波分析特征提取技术，是种时频分析技术，可Ｗ利用时域和频域局，正好迎合了模拟电路响应的非平稳特性部性的基函数表示非平稳的信号。它可将电路响应信号逼近为不同分辨率下，为数不多的几个分量的和。此外，因为每个分量都有自己的需求，小波分析还可１＾根据分类的不同需求进行自适应响应。处理，可满足聚焦到信号的任意细节的需求小波分析特征提取技术，依靠小波基函数，在尺度上的进行伸缩，在时域上，来详细的分解故障信息平移操作。依靠这种时频分析方法，适当的选择小波基一函数，就可Ｗ使扩张函数具备良好的局部分析特性。Ｆｏｕｒｉｅｒ也是种信号分析常用的手段，而且，，但是它只能在频域上是只能对稳定信号进行分析对于模拟电路中的非平稳信号，使用傅立叶分析难取得想要的分析结果。小波分析就是在傅立叶变换的基础上发展起来的，对于模拟电路中的非平稳信号，利用小波分析处理信号，能够很好的规避傅立叶变换不能展开局部分析的不足。应用小波分２１ 北方工业大学硕±学位论文析良好的局部特性，分析和处理模巧电路故障响应非平稳信号，能够得到很好的一特征提取效果。，现已成为模拟电路故障特征提取的重要方法之一小波分析提取特征值的基本原理：是在某分解尺度上，对信号在不同频带内进行分解；然后对不同频带内的分解系数分别进行重构，提取重构时间序列中的特征值，不同频带内的分解系数重构后会形成不同的时间序列，对这些新组合Ｗ好的序列采用时域分析方法，提取不同频带的信号特征。小波变换的实质是函数逼近理论一，基于多分辨率基础将复杂信号分解成些简单的信号一。通常采用合适的母小波基，波经适当的过伸缩和平移变换，得到簇函数群，然后用送族函数来逼近待分析的模拟电路信号或函数，则称送族函数Ｍ为小波函数系。２：（ｔ是平方可积函数６Ｌ小波变换的定义为设Ｋ），即＜Ｋｔ，如果其傅立叶）（巧变换（Ｆｏｕｒｉｅｒ）变换满足下条件：Ｃ＝垃山＜００（４Ｊ＊（））４瓷则称Ｗ的为一￥个小波母函数，将的进行伸缩和平移，就得到离散小波Ｗ：ａｂ的，４－２（）ａｂ￡Ｒａ＊０。式Ｖ其中，，称为小波基函数，ａ为化的伸缩因，，中ａｂ的ｂ的，，＇Ｐ的平移因子＇Ｆ子，ｂ为ａｂ的。参数ａ和ｂ决定了ａｂ的的形状。当连续变，．化时，称平为连续小波，当ｂ分别离散变化为坤和时，称为离散小波。。１）｜４．２系数能１１值巧取利用小波包分解技术可在模拟电路故障诊断中把电路输出节点响应信号逐一－－层分解，分别得到系列低频带Ｌ（Ｌｏｗｐａｓｓ）与髙频带Ｈ（Ｈｉｇｈｐａｓｓ）部分，这个过程持续进行可将电路输出节点响应信号分解到需要的层次。小波包分解过程中，信号高低频成分的精细程度随分解层数的増加而増加。信号经过Ｎ层分解Ｗ后，得到信号在所属频段的特征信息。原始电路故障信号的能量被分解到２个频带上，各频带上的能量相加总和等于原始信号的能量。定义Ｅｗ为电路故障信号在各频带投影序列的能量：２２ 北方工业大学硕±学位论文．。＝＝应及ｄｆ？ＷＷ（。命＝１２２４－３Ｍ，，，ＪＩ３。）（）＝１１Ｗ式中，Ｓ表示小波包分解第Ｎ层，从低频到高频，２个频带成分的系数构ｗ成的特征信号；＂ｄ表示分解信号序列Ｓ第／个离散点系数；／ｗＭ表示分解信号序列Ｓ的离散点的个数。ｗ模拟电路故障诊断中，信号各频段的能量包含了丰富的信息。不同的故障引一例外都会反映到频带信号能量值的变化中发的电流电压变化无。因此，本课题＂＂能量…的表示方法实现电路特征提取采用特征，即对小波分解后得到各频带＂的小波系数却４－３该频带的能量值Ｅ的频带对，按照公式（）计算ｗ，送整分解后一可Ｗ作为输入信号的特征向量应的能量值组合为，即故障特征向量个向量，就＝－为ｒ…ＷＰＤ各频。１给出了利用，，，其中图４的＆，斬］斬为带对应的能量ＷＰＤ对故障信号进行５层小玻包分解最后得到３２个频带的示意图。■ｙ＼＾ＴｌＬＬＬＨＬＨＬＬＨＨＨＬＬＨＬＨＨＨＬＨＨＨＩＩＴｌＬｉ７ｌＬＬＨ？ＨＨＨＬＨＨＨＨ｜［Ｉ／＾＞ＩＬＬＬＬＬＬＬＬＬＨＨＨＨＨＬＨＨＨＨＨ图４－５层小波包分解最后得到３２个频带的示意图１２３ 北方工业大学硕±学位论文４．３小玻特征巧取技术实现方案模拽电路故障信号经过适当的小波包分解后，包含大量原始数据的节点波形信息就被转换为仅包含凡个小波分解系数的组合或者构成的能量特征向量，大大减小了数据维度，实现了输入数据的初步压缩和特征提取。然而在进行不同的诊断时，还存在Ｗ下问题：１）对模拟电路故障采样数据进行小波分析时，如何选择合适的小波基画数。２）小波分解层数的选择对有效故障信息提取影响重大。分解层次过少，可＞，难１体现不同故障的本质区别能导致用于故障诊断的有效信息挖掘不够１＾，造成很多故障不能正确判定，，加；分解层次过多则会大大増加输入向量的维数大分类算法的训练难度，降低诊断效率。３）在达到特定分解层次后，如何在众多的结果系数中进行选择或组合１＾＾１构建合适的故障特征也会对故障特征的提取造成重要的影响。针对上述Ｈ方面问题，我们常用的四运放高通滤波器电路为研究对象，电４－２所示１０％路示例图如图，试验中，假定电路中所有电容的容差为，所有电阻容差为５％。电路的输入激励信号为理想脉冲信号，其幅度为５Ｖ，脉宽为１０ＵＳ的脉冲电压。故障设置方式按照参数在容差范围的变化来设置，若参数在正常容差内变化，视为正常电路状态，参数在正常容差外变化，视为故障电路状态。试一一设置验中需人工每次只对电阻或者电容其个故障，并保证其他的电阻和电容元器件分别保持在±１０％、±５％之间变化。设置１２种故障模式加上正常模式包括Ｃ１ｔ、Ｃ１Ｉ、Ｒ３ｔ、Ｒ３ｉ、Ｃ２ｔ、Ｃ２Ｉ、Ｒ４ｔ、Ｒ４古、Ｒ２ｔ、Ｒ２ｉ、艮１ｔ、ＲＵ、Ｎｏｒｍａｌ，其中ｔ和ｉ分别代表故障值大于和小于标称值。设置好后便可使用ＯｒＣＡＤｐＳｐｉｃｅ１０．５仿真软件进行仿真，采集电路输出点电压波形信息，一种故障模式的训练数据和测试数据－２中打印得到每。输出数据采样点选为图４。机所在位置，采样数据为输出电压为了比较不同诊断方案的性能，我们采用了训练后的故障分类器进行故障诊断。评价性能指标为故障诊断率，计算方法为所有测试数据中被正确识别的故障个数与测试数据总数之比。选用诊断分类算法采用了人工免疫技术中最突出的技＂ｔ３术的克隆选择算法。２４■ 北方工业大学硕±学位论文Ｒ２６■款Ｒ１２—＾Ｉｅ款Ｃ１Ｃ２ＩＩ巧ＩＩＩ１——Ｗ＾Ｃｂｆｅａｋ，－ＩＳ味Ｒ如＊＞Ｄ４！■Ｒｊ灿■化！ｓａａ。１画＾Ｌ＾—放户巧６Ｗ…￣—Ｓ＾—Ｊ—？＿—＆＞、＾＾，．说Ｉ嗦左＾ｐ巧节著？閱＂与ｉ浮：貪—＇田？－ｎ心■了Ｒｂ￣ｋ，化巡■說ＭＢＫＢｍａｒ－－—ｃ，》？０ｗ一＂，Ｔ＾￣＾５—＜＊＊，化绰＞．Ｖ２＾？Ｉ阳？ｇ＆：ｊｋＶ３２＾ｃ？０ＶＤＤｉｆ＾＾ｊ１２Ｖｃｔｏ气＞图４－２四运放高通滤波器实验中－２中打印机所在位置的输出电压，采用单点数据采样，采样点为图４，为简化数据一，数据的采样频率为５００００Ｈｚ（每２＾１３采个数据，１ｍｓ能采样５０１个点），采样时间为１ｍｓ。对１２种故障模式及正常模式各进行５０次蒙特卡洛分析（采用高斯分布），其中抽取３０组数据用于分类器训练，剩余的２０组用于诊断测试。按照这种设置，仿真共采集６５０组状态数据。其中的３９０次用于进行克隆选择算法训练，剩余２６０次用进行算法测试。４．３．１小波基函数选择实验一为研究不同小波基的选择对模拟电路故障特征提取的影响，我们进行了第组对比实验。我们选择模拟电路故障诊断中应用频率较高的Ｈａａｒ、Ｓｙｍｌｅｔｓ（ｓｙｓ２）、Ｍｏｒｌｅｔ、ＭｅｘｉｃａｎＨａｔ（Ｍｅｘｈ）和Ｍ巧ｅｒ共５种小波基进行比对，其中Ｈａａｒ、Ｓｙｓ２ｔ为离散小波分解，Ｍｏｒｌｅ、Ｍｅｘｈ、Ｍｅｅｒ进行连续小波分解ｙ。为了使提取的故障一，０，离散小波分解使用了特征向量维度与分量数量致根据文献［１５层分解，］取每层系数的低频部分，连续小波分解的尺度系数为［１２３４５。分解后的小波］系数经过能量化和归一化处理后组成故障特征向量。故障特征的维度为１维，特征分量个数均为５个。上述５组特征分别输入克隆选择分类算法训练并稳定后进２５ 北方工业大学硕±学位论文－行诊断测试，测试结果如表４１所示。４－表１５种小波基提取故障持征的诊断结果对比表被味类劝ＨａａｒＳｖｓ２ＭｎｒｉｅｔＭｅｘｈＭｅｖｅｒ化ｒｍ６５％６５％７０％８５％６５％Ｃｌ言７０％扣％１５％１０％２０％ＣｌＩ１５％０巧％巧％１５％Ｒ４ｔ巧％２０％４０％巧％６０％Ｒ４１５％２０％７０％２０％巧％Ｃ２ｔ巧％巧％４０％６０％巧％Ｃ２ｉ９５％９５％化％化％３０％Ｒ３ｔ１００％１００％７０％扣％巧％Ｒ３Ｉ巧％巧％扣％７５％６０％Ｒ２ｔ１００％１００％９０％的％７０％Ｒ２Ｉ７０％７０％巧％６０％６５％Ｒ１ｔ１０％５％２５％３０％１０％ＲＵ５％巧％４０％化％巧％总化？巧本巧８５％５２．６９％５６２％４７．６９％巧．３１％．．．平巧汝断单巧散！巧２７％连续：４７．０６％－从表４１可知，对四运放电路采用我们使用的特征表示方案条件下，选择离散小波基（总体诊断率５３．２％）提取故障特征总体效果优于连续小波基（总体诊断率４７．０６％），能够得到相对较高的诊断率据此选择Ｈａａｒ．小波基进行采用不同系数组合构建故障特征的第二组对比实验。４．３．２小波分解层次对比实验一组对比实验中在第，电路故障特征根据文献１０经验选择了五层分解，Ｈａｒｒ［］小波取每层系数的低频部分，Ｍｏｒｌｅｔ小波分解的尺度系数为１２３４５］，通过能［一化构建了故障特征量化和归。然而，进行电路诊断时如何确定最终需要进行分一一。解的层次也是个需要研究的重要问题为此，根据第组实验结果，我们选择Ｈａａｒ小波基进行不同层数的分解，得到不同的故障特征；分别对提取的故障特征进行克隆选择分类算法训练后，比较其诊断结果，Ｗ找出小波基的尺度系数在模拟电路故障特征提取中的规律。２６ 北方工业大学硕±学位论文首先进行的是Ｈａｒｒ小波分解层次实验。因每个观测点仅采集了１０２５个采样数据，Ｈａａｒ离散小波分解最多能分解１０层。我们分别取取Ｈａａｒ小波的１层、３层一、５层、７层、９层分解的所有低频系数经过能量化、归化的过程，分别组－成５种情况的故障特征数据进行实验。表４２给出了实验结果。表４－２Ｈａａｒ小波变换不同系数下诊断正确率对比情况故味类巧１层３层５层７层９层Ｎｏｒｍ１５％３０％７０％７０％７０％Ｃｌｔ９５％７５％９０％９０％９０％ＣｌＩ１００％８０％８５％８５％８５％Ｒ４１０１５％２０％３０％３０％Ｒ４１３０％４５％５０％５０％５０％Ｃ２ｔ２５％４５％４５％５５％５跳Ｃ２；４跳５５％７０％７０％７０％Ｒ３ｆ９５％８５％９５％１００％１００％Ｒ３１００％８５％１００％１００％１００％＼Ｒ２ｔ１００％１００％１００％１００％１００％Ｒ２ｉ８０％８５％９５％９５％９跳Ｒ１ｔ３５％７５％９５％９５％９５％Ｒ１Ｉ１０％１５％３０％４５％４５％平均Ｓ６．２％６０．８％７２．７％７Ｓ．８％７５．８％ｒｒ实验结果表明，采用Ｈａ小波进行特征提取时，随着分解层次増加，故障诊断率也相应提升，并在分解到第７层时达到最佳效果。４．３．２小波系数构建故障特征对比实验小波基函数和分解层次确定后，如何选择分解后的系数组合或构建成合适的故障特征同样也是影响故障诊断效果的重要因素。为确定小波系数选择对故障特一紀和第二组的实验结果征的影响，我们对每个采样点的电压数据用，根据第Ｈ７层一ａａｒ小波做分解、化。每个采样，并对分解后小波系数做提取能量值归一点的数据分别分Ｈ种情况作为特征向量：Ａ组只取第７层低频系数能量化归化一化的值的值（１个特征值）；Ｂ组取所有７层低频系数的能量化归（７个特征一化的值值）；Ｃ姐取全部７层低频系数与高频系数的能量归（１４个特征值）。２７ 北方工业大学硕±学位论文此外，通过观察原始数据，发现每种故障模式下都有不同的非稳定期，但大致经过口个周期后波形都趋于稳定，因此尝试将每种故障下不稳定周期内的数据去掉（舍掉前２００个采样数据）后用剩余的平稳部分进行７层Ｈａａｒ小波分解，取。全部的低频与髙频系数构成特征向量，作为Ｄ组在其它设畳相同的情况下，故障诊断率结果如表４－３所示。表４－３Ｈａａｒ小波７层变换不同元素下诊断正确率对比故巧类型Ａ組Ｂ組Ｃ組Ｄ組Ｎｏｒｍａｌ０１０％７０％６０％Ｃｌｔ３凯５５％９０％９５％ＣｌＩ０６跳８５％８５％Ｒ４１５％１５％３０％１５％Ｍ＼０４５％日０％４０％Ｃ２ｔ６５％０５５％６０％Ｃ２１５％２５％７０％６５％Ｒ３１９５％９５％１００％９５％Ｒ３ｉ１００％１００％１００％１００％Ｒ２１９５％１００％１００％１００％Ｒ２４１００％８跳９５％９跳Ｒ１ｔ０１５％９５％７０％Ｒ１ｉ０１０％４５％０平均３８．５％５４．６％７５．８％６７．７％二４一根据实验结果，对比第列（取全部毛层的低频系数）的５．６％和第列（仅一取第韦层低频系数）的３８．５％，说明每个分层层次都包含重要的诊断信息。对比第Ｈ列（取全部七层的低频和高频系数）的７５．８％和第二列（取全部走层的低频系数）的５４．６％，说明本文实验的四运放滤波电路而言，Ｈａａｒ小波变换后髙频系数部分对诊断结果有非常重要的影响。对比第四列（滤掉前期数据处理后）的６７．７％和第Ｈ列（取全部屯层的低频和高频系数）的７５．８％，说明故障前期不平稳的特性也是各故障模式的重要特性，丢弃这些特性也会影响诊断结果。通过Ｗ上实验，深入探索了模拟电路故障诊断中，使用基于小波的通用特征、Ｈ个方选取方法，研究了包括母小波基选择分解层数选择和最优小波特征选择ｈａａ面，得出了对模拟电路故障特征提取具有简单指导性的结论，即使用离散ｒ２８ 北方工业大学硕±学位论文小波基分解５层或者７层取所有的高低频系数构造特征能够得到更高的故障诊断率。４．４本章小结本章主要讨论了模拟电路故障诊断中通用的小波特征提取技术，得出了对模拟电路故障特征提取具有简单指导性的结论，然而为了得到更好的泛化能力，通常会选择使用小波进行多层分解，这也导致特征维数随分解层数的增长呈指数级増长，出现维数灾难的问题。为了解决维数灾难问题，需要对故障特征进行合适一的降维，优化故障特征，在下章节将进行降维效果验证实验。２９ 北方工业大学硕±学位论文第五章流形学习数据降维及模拟电路诊断工程应用５．１实验方案当模拟电路发生故障时，必然表现出与之对应的故障征兆症状，如电压、（）电流信号发生变化。这些征兆蕴含着大量电路的运行信息和故障信息。因此通过采集反映电路真实运行状态的电压、电流等原始信号，经过恰当的数据分析和模式提取，可Ｗ训练出蕴含全部已知故障信息的高精确的故障分类器进行己知故障类型的诊断。模拟电路故障诊断的实质是进行故障分类，找到发生故障的元器件一在电路中的位置，因此其实际上就是个典型的模式识别问题。本课题依据模拟电路的信号特征呈非线性结构的特点，和使用泛华能力强的小波包分解特征提取技术提取的特征维数随分解层数的增长呈指数级増长为出发点，并利用基于流形学习的ＬＬＥ降维算法在非线性降维上的优势一，提出种将小波包分解、局部线性嵌入相结合的模拟电路故障诊断特征提取及降维优化技术。为了分析诊断方案的性能，我们采用了训练后的故障分类器进行故障诊断。评价性能指标为故障诊断率，计算方法为所有测试数据中被正确识别的故障个数与测试数据总数之比。一智能诊断算法采用了人工免疫技术中最突出的克隆选择算法，这是种被证明具有远超过神经网络方案的快速收敛能力的分类算法。最终，我们设计的方案总共包括三部分，即小波包分解、局部线性嵌入和克隆选择算法，命名为：－ＷＰＤ＋化Ｅ＋ＣＳＡ模拟电路故障诊断方案，其故障诊断总体框架如图４１所示。该方案模型包括３个模块：仿真模块、特征提取与降维模块、诊断模块。仿真模块主要利用Ｐｓｐｉｃｅ完成待测电路的正常模式及故障模式仿真，得到采样数据；特征提取与降维模块主要完成Ｈａａｒ小波包对采样数据进行５和７层分解，得到一一系列小波系数，然后用ＬＬＥ算法对小波包分解后的数据进步挖掘，得到高维数据中的低维结构，实现特征提取与维数约简诊断模块主要完成用ＣＳＡ算；法进行則练及识别故障。基于ＷＰＤ＋ＬＬＥ＋ＣＳＡ的模拟电路故障诊断方案具体步骤如下；１）对待测电路在Ｐｓｐｉｃｅ软件中设置故障，仿真并提取故障的输出响应；２）利用Ｈａａｒ小波包对输出响应信号进行５与７层分解，得到各状态下故障特征样本；３）将各故障特征样本输入ＬＬＥ算法中进行不同维数降维；４将不同维度的新故障特征样本输入ＣＳＡ诊断算法进行训练，并诊断故障。）３０ 北方工业大学硕±学位论文ｍｍｍＡＡｆｔ＿＿电路ｎｎｉｉ＾ｉｊ＾ＶＶＶｌｉ碟Ｉｉ———＇激励Ｌ－＇———－－－－－ＪＩ＾（ｎ）去ＰＤｉｗ特征！提取与ＬＬＥ降维ｉｇ麵毒１＾１故障分类ｊＩ５－图１ＷＰＤ＋ＬＬＥ＋ＣＳＡ的模拟电路故障诊断方案５．２实验电路图为了验证基于流形学习的局部线性嵌入数据降维技术在实际工程中的特征＂模拟＂数据降维力度和特征优化效果，本章将采用电路故障诊断项目来进行仿Ｗ真实验。对经典的两级四运放低通滤波器电路进行模拟电路故障诊断实验分－析，电路结构如图５２所示。３１ 北方工业大学硕±学位论文巧试—＇—＇片ｔｗ。。＾ｓｓｎ；．＇＊ＪＨ品。冊。／ｙｙｙ｜■ＩｆｂＭＩ＜（ｋＷｋＩ＊一＾化一卢诚ｔｆＣ３巧巧＊？巧＊，？？Ｉ化－＾，。｜。？居正邸。＾巧巧．琴甲、Ｉ—￣／．Ａ．．ｔ－—＊－ｒ－ｊＮｓｉｉＳｓｉ巧＾ａ＾Ｍ，？ａＶｎｊ＾ｊ＾＇试＇＂——＾＝痴２６．ｆｔ４吃［＾＾ｉ，，ｉ：ｋｐ＾ｆ巧－化请設￣ｒｖ＾＾Ｌ心ｒ沿一、巧ｉ？＂化化＿－—Ｉ＿＿ＶＷ＾，跳？＾丘■＂￣＾‘Ｎ＾，伍麥［咬晏巧。《６巧１＾ｇ。Ａ—￣＾ｎ＾｜｜｜ＩＬ！ｆ＾告．Ｌ＊。王￣？．．．〇图５－２两级四运放低通滤波器电路原理图５．３故廣注入与巧据采集在实验电路中，电５％。，设置电容元器件的容差是±１０％阻元器件的容差为±电路输入在Ｖ４节点，电路的输入激励信号为理想脉冲信号，其幅度为５Ｖ，脉宽为１０ＵＳ的脉冲电压，信号周期为２０ＵＳ，上升时间ＴＲ为０ＵＳ，下降时间ＴＦ为０ＵＳ。试验中按照参数在容差范围的变化来设置故障，若参数在正常容差内变化，视为正常电路状态，参数在正常容差外变化，视为故障电路状态。实验中一设置一需人工每次只对电阻或者电容其个故障，并保证其他的电阻和电容元器＋一件分别保持在±１０％、５％之间变化。设置好后便可进行仿真，得到每种故障模式的训练数据和测试数据。最后，１５种故障模式加上正常模式中电阻和电－正常模式包括Ｎｏｒｍａ容的参数值如表５１所示。１５种故障模式和ｌ、Ｃ１ｔ、Ｃ２ｔ、Ｃ３ｔ、Ｃ４ｔ、Ｒ３ｔ、Ｒ４Ｉ、民６ｔ、民７ｉ、Ｒ８ｔ、民９ｔ、民１６ｔ、Ｒ１７Ｉ、艮１９ｔ、Ｒ２１Ｉ、Ｒ２２ｔ，其中ｔ和ｉ分别代表故障值大于和小于标称值。３２ 北方工业大学硕±学位论文表－电路中故障模式５１故障标称故库故巧标称故障类型值值类型值值ＮｏｒｍａｌＲ？ｉｌＯｋＱ５．５ｋＤＣｉＴ０．０１冲０．０５１冲〇．４４故２．２ｋＱＣ１ｉＦ０．０２＾ＦＲ２４２０．６４ｋＱ．３ｍ．０９ｔＴ｜｜ＣｓＴ０．０１冲０．０４８曲Ｒｉｅｔ１．８賊７．８ｋＱＣ４０．０１冲０．０３１冲民１７４．８４ｋｎ１．６ｋＤＴ丄Ｒａｔ２．２ｋＤ５ｋｎ艮ｗｔｌＯｋＨ３０ｋｎＨＲ４１．５７ｋｎ０．６ｋＯＲ２ｉｊｌＯｋＨ３．７５ｋＲｅｔｌＯｋＯ１６．５ｋＱＩＲａｓｔ２．３２ｋＤ７ｋＱ－按照表５１，ａｌ（正常）状态５种故障状态分别进行仿对电路Ｎｏｒｍ和１真，－采样的点为图５２中打印机位置的输出电压。模拟电路的瞬态信号包含了丰富的。信息，因此对电路施加指定的激励信号进行瞬态仿真在ＯｒＣＡＤ１０．５软件下设一ＯＯｓ，每隔２１３采样次置仿真时间为ｌＯ＾＾。然后分别对电路每种故障模式及正常＊组数据模式进行５０次蒙特卡罗分析。仿真完成后，总共可Ｗ采样８００（１６５０）。在盾期进行诊断时，从每种模式的５０次数据中抽取３０次数据用于克隆选择算法训练，其它２０次数据用于诊断测试。其中部分电阻和电容的电路响应仿真结果－－波形如图５３和图５４所示。得到某故障５０次蒙特卡罗分析后输出节点的电压－随仿真时间的变化如图５５所示。？Ｉ化誦ＣＳ呼Ｉ｛图５－３故障Ｃ２形图图５－４９ｔ仿真波故障民１ｔ仿真波形图３３ 北方工业大学硕±学位论文Ｓ躬巧資＊＊＊＊ＴＲＡＮＳＩＥＮＴＡＮＡＬＹＳＩＳＴＥＭＰＥＲＡＴＵＲＥ＝２７．０＾Ｄ巧Ｃ８谷邮Ｂ９ＢＳＭＯＮＴＥＣＡＲＬＯＰＡＳＳ１３巧Ｓ６？幸拿？？？？？？？？？＞？？？？？？？？？幸？？？？？？？拿？？？？？？？？？？＊？？？？？？？＊？？？？？？？？？？？？？？？？？＊？：？？＞■３９０７ｇａ今３ｓＳＳ３９ＳＳ３Ｓ８９９：１曰ＴＩＭＥｌＶ（）８９５２巧＋－？３６．妨０Ｅｅｅ１．的５Ｅ０３巧？４－贿－－２．０００Ｅ２．５７２Ｅ扫２４－－－Ｓ９９５．０００Ｅ０６３６６Ｅ扫．７２－－－８９？６６．撕０Ｅ０６７．３８２Ｅ０２－－－Ｓ９３７Ｓ．㈱Ｅ扣１．４６７Ｅ０１ｅｅ－６－－８１巧％ｌ．ｅＥ５２．３２８Ｅ－－４巧Ｅ－０８￥巧１．２说５扣３．１９＾ｍ１－－－．４㈱Ｅ０５４．５０２Ｅ０１９的１１－－－．６如Ｅ巧５．８１８Ｅ０１－－－５８０２１．８００Ｅ０５６０．９６１Ｅ１５的５２００－－７－．０Ｅ的．８巧Ｅ０１－ｅ－－９的４２．２００Ｅ５８．４４３Ｅ０１ｓｅａｓ２－－－．４朗Ｅ化８．说７Ｅ０１５－５故２ｒ图障Ｃｔ第１３次ＭｏｎｔｅＣａｌｏ分析图５．４数据预处理当完成故障注入、数据采集后，要对采集到的数据进行预处理工作。数据预处理包括使用小波包分解提取故障特征和使用ＬＬＥ进行特征数据降维优化处理两部分。首先，在ＭＡＴＬＡＢ软件中，实现小波包分解函数，对采样数据分别进行Ｈａａｒ小波包５和７层分解。分解完成后，分别提取第五层和第走层的所有的高低频部分小波系数能量作为故障特征，得到１６种故障模式（包括正常状态）的３２维（分解５层）和１２８维（分解７层）特征向量。然后分别将这些特征向量随后被送入ＬＬＥ模型和Ｉｓｏｍａ模型进行降维。利用ＬＬＥ算法在处理高维非线ｐ性数据时，假设小波系数特征数据在高维空间中形分布，通过局部线性、全一－局非线性的思想，可Ｗ为样本数据中的每个数据点采用Ｋ近邻法寻找其邻域＝点，本文采用Ｋ１２时。考虑到小波包分解层数ｎ和特征维数Ｖ是Ｗ指数形式增长的事实，本文根据关系式；ｘ＝（５－１）＾（５－Ｘ式１）中指的是降维后的维数，分别将维数降到［１６、８、４、２］（３２维原始数据）、［６４、３２、１６、８、４、２（１２８维原始数据）。其中，使用ＩＸＥ算法将原］３２－始数据由维降到２维的结果如图５６所示，使巧Ｉｓｏｍａｐ算法将原始数据由３２５－７所示维降到２维的结果如图。３４ 北方工业大学硕±学位论文（Ｌ２「０＊０－１５〇０？０＂ＤＯ６－？．１０—０．〇？？ｇ？？０？？？？？？？？？。。０ｅｏＯ６０？。？。？：？？？？化－。。－？。节Ｖ。＊。＊？。？。？０。。４。。，。《？；。？。。；。。＂。：：。－产一．巧好拇旅Ｉ０，。。。。。，？Ｓ＊。。。０。＊。。？。：？０。。。。。。？。？。２。ｏＶ。。口。％％？。６０００。。。？Ｃ０ｆ？？？。。－＊０６ｅ々．０５？００ｆｔ〇〇？〇？〇〇０？〇＊？０口＞０〇０？０－．１００ｉ１１１１。巧－０Ｓ４■１０拍００把０１１图５－６使用ＬＬＥ算法将３２维数据降维到２维的显示４厂？？？？？？？？？？？？．？？＊ｔ？．？？－？？３？．０？？？２－／＊？？０％？？？？？－。■，牺／＼ＩＩＩＩＩＩＩ！ＩＩ３．５－－．－２１．Ｓ１０．５００．Ｓ１１５￥３２图５－７使用Ｉｓｏｍａ算法将３２维数据降维到２维的显示ｐ３５ 北方工业大学硕±学位论文５．５实验结果与分析５．５．１ＬＬＥ和Ｉｓｏｍａｐ数据降维效果对比实验分别将上述通过使用ＬＬＥ算法和Ｉｓｏｍａｐ算法降维后的维数不同特征数据与原始特征数据分别构成故障特征Ｊ。，输入克隆选择算法进行诊断ｙｌ对比降维效果表５－２为分解５层后ＬＬＥ模型下的故障识别结果－构造的恃征在，表５３为分解５层后构造的特征在Ｉｓｏｍａｐ模型下的故障识别结果。其中在Ｉｓｏｍａｐ中除去了原始３２维的对比５－８ａａｒ小波包分解７层再使用ＬＬＥ降维到３２数据。图为使用ｈ维，克隆选择算法诊断后，所有测试数据中被正确识别的故障个数统计（实验中测试２０组数据）。５－９为ＬＬＥ算法和Ｉｓｏｍａｐ算法的平均诊断率比较－图。表５４为分解７层得到１２８维特征数据在ＷＰＤ－ＬＬＥ－ＣＳＡ故障诊断方案下的降维效果。在使用克隆选择诊断算法进行故障识别时，故障诊断率的计算方法为所有测试数据中被正确识别的故障个数与测试数据怠数之比，艮Ｐ：＝－Ｒ－＾（５２）Ｔｏｔａｌ－２）中式（５，艮表示是识别率，Ｎ表示被识别的个数，ｒ〇化读示测试总数。一５－２）来计算毎种故障的诊断率按照公式（。ＷＦｌｌ＋Ｒ１６＋Ｈ［ｌ巧为例，具体计－－算时，首先将１６种故障按［０１５标号，从图５８可知，故障标号为２，测试２０］组数据－，故障正确识别的个数２０，按照公式（５２）可得此标号为１６的电阻阻值超过正常容差范围成为故障的故障诊断率为一１００％。平均诊断率为每种故障的诊断率的和与故障总数之比。３６ 北方工业大学硕±学位论文Ｆ１＋Ｃ１＋知ｌＯｐ０００００００００００００００００００正确率＾：１．００００００＊｜｜｜｜｜ｊ｜｜｜｜｜｜｜｜ＩＩ｜｜｜Ｆ１０＋Ｒ３＋Ｈ｜１０ｐ４ｌ８ｌ８ｌｌ５ｌｌ８ｌｌｌｌｌｌｌ８１：０．７００ｔＸＫＶ｜｜｜正确率｜｜｜｜｜｜｜｜｜｜ｊ｜｜｜｜｜｜。１＋？１５＋服０护２２２２２２２２２２２２２２２２２２２２正＾’：１．００００００｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜Ｉ确率｜Ｆ１２＋Ｒ１７＋ｉＪ１０ｐ｜３｜３｜３｜３｜３｜３｜３｜３｜３｜３｜３｜３｜３｜３｜９｜３｜３｜３｜３｜３正确率：０．３５０ＣＸＸＶＦ１３＋Ｒ１９＋服啡｜４｜４４４４Ｓ１４４４４４８１４４８４｜４４正确率：０．７５０００ＣＶ｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜Ｆ１４＋Ｒ２蝴聊５５５５５５３５５５５３５５５５５５５９：０．８５００正确率０Ｖ｜｜１｜｜｜｜｜｜｜｜｜｜｜｜Ｉ｜｜｜｜ＨＬ５＋Ｒ２２＋弧句由６６６６６６６６６６６６６６６６６６６６＊＾：１．００００００｜｜｜｜｜｜｜｜！正确率｜｜｜｜｜｜｜｜｜｜｜巧＋Ｃ２＋站ｌＯｐ６７７７７７７７７７７７７７７７７７７７正确：０．９５０００Ｖ｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜｜率段＋Ｃ３＋弧Ｏｐ｜４｜８８８４８１４｜８８｜４｜８｜８｜１｜４｜８｜８｜８｜８｜８正确率：０．６５０００ＣＶ｜｜｜｜｜｜｜Ｆ４＋Ｃ４＋她０护｜５９９９３９３５９９９３９９９３弓９９９正；０＊＂．８０００００｜（｜｜｜｜！｜｜｜ＩＩＩＩＩＩＩ１确率（｜Ｆ５＋貼＋弧旬１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０１０ＩＩＩＩＩＩＩＩＩＩＩ１ＩＩ１ＩＩＩＩＩ？Ｊ正确率：１．００００００Ｆ６＋Ｒ４＋ＩＪ１０Ｐ１１１１１１１１１１１１１１１１１１１１１１Ｉ１１１１１１１１１１１１１１Ｉ１１１１ＩＩ１ＩＩＩＩＩ！ＩＩＩＩ１Ｉ１１ＩＪ＊正确率：１．００００００＊ＪＦ７＋Ｒ６＋站１０】１２口口１２１２１２１２１２口１２１２１２１２１２１２１２口１２１２１２ＩＩ！ＩＩＩＩＩＩＩＩｉＩＩ１ＩＩＩＩＩ｜０００００＞？正确率：１．０Ｆ８＋Ｒ７＋Ｉ１０ＰＪ１３１３１３１３１３１３１３１３１３１３１３１３口１３１３１３１３１３１３１３ＩＩＩＩＩ１ＩＩＩＩＩＩ１ＩＩＩＩＩＩＩ正确率：１．００００００＾Ｆ３＋Ｒ８＋抽１０Ｐ１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４１４ＩＩＩＩＩＩＩ１ＩＩＩＩＩＩＩＩＩＩＩＩ＾Ｊ正确率：ｌ．ＯＯＯＯＯＯＷｏｒ取弓恥狐巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧巧ＩＩｊＩＩＩＩＩＩＩＩＩＩＩＩＩＩＩＩ１＇－＊正确率：１．００００００＾算法结巧！ＪＰｒｅｓｓａｎｙｔｏｃｏｎｔｉｎｕｅ？图５－８所有测试数据中被正确识别的故障个数统计８维降维到３２维）（由口３７ 北方工业大学硕±学位论文表５－２ＷＰＤ＋ＬＬＥ＋ＣＳＡ模型不同维度下的故障识别结果５（分解层）故巧故障３２维１６维８维诊４维诊２维诊编号类型诊断率诊断率断率断率断率０Ｃ１１００％１００％１００％１００％１００％个１Ｒ３个的％１００％１００％１００％１００％２Ｒ４４．５０％１００％１００％１００％０３Ｒ６个１０％１００％１００％１００％１００％４Ｒ７４，１０％１００％１００始１００％０５Ｒ８１００％１００％１００％１００％０个６Ｒ１６０％１００％６０％化％个１００％１０７Ｃ２个５０％１００％巧％１０％０８Ｒ巧个巧％巧％７５％巧％０９Ｒ２２巧％１００％１００％巧％巧％个１０Ｃ４７０％扣％８０％０５％个１１Ｃ３１００％的％的％５０％０个１２Ｒ９２０％７０％７０％２０％０个１３Ｒ１７４，９０％１００％９５％巧％５％１４Ｒ２１８０％８５％化％４０％５％本１５Ｎｏｒｍａｌ４５％１００％１００％１００％０平的：５８．１％９３．１％９１．３％６７．２％２５．９％．降维比例０５０％７５％８８％９４％从表５－２可ＬＥＣＳＡ看出，本文提出的小波包分解、Ｌ算法及算法相结合的ＷＰＤ＋ＬＬＥ＋ＣＳＡ故障诊断方案，在典型的两级四运放低通滤波器电路上进行故障特征数据降维的实验研巧结果表明，在研巧模拟电路故障诊断特征提取的非线法降维问题上，使用ＬＬＥ算法对原始故障数据的降维比例达到７５％后，诊断率仍保持在９０％的较商水平。但随着故障特征数目的逐渐减少，故障诊断率也有。所下降，当降维到２维时，故障诊断率仅为２５．９％３８ 北方工业大学硕±学位论文５－表３ＷＰＤ＋Ｉｓｏｍａｐ＋ＣＳＡ模型不同维度下的故障识别结果（分解５层）故障故巧１６维８维诊４维诊２维诊编号类型诊断率断率断率断率０Ｃｌｔ１００％１００％１００％１００％１Ｒ３１００１００１００１００个％％％％２Ｒ４１００％１００％１００％０４．〇３Ｒ６！００１００１００１００个／〇％％％４Ｒ７１００％１００％１００％０山５Ｒ８１００１００１００个％％％０〇６Ｒ１６！００１００１００３５个／〇％％％７Ｃ２５５５个％％％０〇８Ｒ１９２５５５５０个／〇４０％％９Ｒ２２ｔ４０％２０％１０％１０％１０Ｃ４４５％化％４０３０％个１１Ｃ３０９６１０％５％５个〇１２Ｒ９３０／〇２５％２５％３０个１３Ｒ１７４．９０％９０％９０％７０％１４Ｒ２Ｕ５０％５０％５０％巧％１５Ｎｏｒｍａｌ１００％１００％１００％０平均：７％６７．８％６７．５％３５．３％６．８圓１邮１１１￣］Ｉ，——ｔＬＬＥ■Ｉ￣—ＳＩｓｏｍａ巧－、ｐ４。＼Ｎ，３０－＼－２与２１６８４２维巧－ＬＬＥ和图５９Ｉｓｏｍａｐ各维度下的平均诊断率比较３９ 北方工业大学硕±学位论文从表５－３和图５－９可ＷＰＤ＋ＬＬＥ＋ＣＳＡ故障Ｗ看出，与诊断方案相比，ＷＰＤ＋Ｉｓｏｍａｐ＋ＣＳＡ故障诊断方案降维效果相差甚远，充分表明本文提出了小波包分解、ＬＬＥ算法优化优化特征方案的优越性。实验结果证实了ＬＬＥ算法在模拟电路故障诊断的适用性，从而为ＬＬＥ算法在复杂数据降维的工程应用方面提供了有用的参考。５．５．２ＷＰＤ不同分解层数下数据降维效果对比从第四章中，Ｗ典型的四运放低通滤波器电路为研究对象，使用小波分解分解７层有较高的故障诊断率，本实验Ｗ两级四运放低通滤波器电路为例，对比了使用小波分解５层和７层两种情况下所提取的特征在经过局部线性嵌入降维后的效果。表５－４ＷＰＤ＋ＬＬＥ＋ＣＳＡ模型不同维度下的故障识别结果７（分解层）故巧故巧１２８维６４维３２维１６维８维诊４维诊２维诊编号类型诊断率诊断率诊断率诊断率断率断率断率０Ｃ１个９０％９０％９５％１００％７５％９０％８０％１Ｒ３１００％１００％１００％１００％１００％１００％１００％个２Ｒ４４，１００％１００％１００％１００％１００％１００％０３Ｒ６个４５％１００％１００％１００％１００％１００％１００％４Ｒ７，６０％１００％１００％１００％１００％１００％０ｖｌ５Ｒ８１００％１００％１００％１００％１００％１００％０个６Ｒ：Ｌ６４０％５５％７０％９０％１００％１００％１００％％个７口个８０％９０％８５％７０％５％２０％１０％８Ｒ１９３５％６５％８５％６５％５０％５０％２０％个９Ｒ２２５５％５５％１００％９０％５５％２０％１０％个１０Ｃ４１００％１００％９０％７０％４０％５０％３０％个１１Ｃ３个１００％５５％６５％３０％２０％５％１０％１２Ｒ９１００％６０％５５％４０％４０％１５％３０％个１３Ｒ１７＾＾１００％１００％１００％１００％１００％１００％３５％１４Ｒ２Ｕ８５％７５％９０％６５％６０％６５％５５％１５Ｎｏｒｍａｌ８０％１００％１００％１００％１００％１００％０平均．３８％８４．０７％８９．６９％８２．５％７１．５７％６９．７％３６．２５％：７９４０ 北方工业大学硕±学位论文５－４可知Ｈ小波分解５层后提取得３２维特征所得故障诊断率从表，与ａａｒ（５８．１％）相比，分解７层后诊断为率７９．％％，故障诊断率提高的原因可能是由于分解７层后，提取的１２８维故障特征包含更详细丰富的故障信息，使其故障诊断效果更优。此外，当同样降维比例达到７５％时，分解５层实验最终所得诊断率为９１．３％，而分解７层实验最终所得诊断率为的．６９％，这可能由于分解层数多。了之后，重要的信息在降维后有所损失导致一５．５．３同数据进行降维效果对比实验为了进一步说明本文提出的小波包分解与局部线性嵌入特征降维优化技术的优越性，増加使用局部线性嵌入技术对第四章中典型四运放低通滤波器电路的高维特征数据降维的对比实验。利用Ｈａａｒ小波包对原始数据进行５层分解，然后将所得数据输入ＬＬＥ算法模型进行降维处理，分别得到降维到１６维、８维、４维、２维时的降维结果。最后故障诊断率为评价标准，得到降维后的故障诊断率如表５－５所示。表５－５各维数下的故障诊断率对比故阵类型１６维８维４维２维Ｎｏｒｍａｌ１００％１００％７０％６５％Ｃｌｔ７５％８０％９０％６０％ＣｌＩ８５％８５％８５％４０Ｒ４１６５％７０％８０％４５％Ｒ４１９０％６０％５０％１０Ｃ２ｔ１００％１００％５５％０Ｃ２ｉ１００％１００％７０％４５％Ｒ３ｔ９５％５０％４０％１０Ｒ３ｉ１００％７５％４５％０Ｒ２ｔ９５％８５％６０％５５％Ｒ２ｉ１００％７０％９５％跳Ｒ１ｔ９０％１００％９５％０Ｒ１Ｉ７０％８０％８５％１０平均；８９．６％８１．２％７０．８％５％４１ 北方工业大学硕±学位论文５－５可Ｗ看出由表，高维数据经过降维后故障诊断率有所提升，在降维到１６维时故障诊断率达到８９．６％，超过之前选择故障特征系数试验中的Ｃ组所得到的最髙故障诊断率（７５．８％）。实验表明，原始数据经过小波分析特征提取和ＬＬＥ一算法降维处理后，所构建的故障特征子集是种优选的特征子集，能够提高故障诊断率。４２ 北方工业大学硕±学位论文第六章结论与展望６．１主要结论本课题研究了电路板故障诊断中基于流形学习的局部线性嵌入数据降维技术，主要提出使用模拟电路故障诊断中通用的小波分析特征提取技术与局部线性嵌入相结合的故障特征提取及降维优化方案，研究了小波分析特征提取技术在模掛电路故障诊断工程应用中存在的Ｈ个方面的不足：如何选择最优小波基函数、如何确定小波分解层数和如何选用小波系数构造特征Ｈ方面工作一，得出般性的指导结论，解决模拟电路故障诊断工程中通用的小波特征提取技术缺乏理论性指导的问题；Ｗ及主要研充了使用局部线性嵌入技术解决小波特征提取技术所提取的特征维数随分解层数増加呈指数形式増长的维数灾难问题。主要工作是提出了小波包分解、局部线性嵌入算法及克隆选择算法相结合的ＷＰＤ＋ＬＬＥ＋ＣＳＡ模拟电路故障智能诊断方案，该方案在典型的两级四运放低通滤波器电路上进行故障特征数据降维的仿真结果表明，使用基于流形学习的局部线性嵌入数据降维技术对原始故障数据的降维比例达到巧％后，诊断率仍保持在的娩的较高水平。实验结果证实了局部线性嵌入数据降维技术在模拟电路故障诊断的适用性，从而为局部线性嵌入数据降维技术在复杂数据降维的工程应用方面提供了有用的参考。６．２研究巧望虽然本文对模拟电路故障诊断中数据降维进行了大量的研巧工作，也取得了一一定的研巧成果，但课题仍存在需要进步解决的关键问题；一１、最优Ｋ值确定。在局部线性嵌入降维算法中，只有个参数就是算法第一步中的Ｋ值一，这是个预先给定的值，不同的数据集有不同的Ｋ值。本课题＝中，针对本课题使用的电路及采集到的数据，通过大量实验对比，得到Ｋ口时能获得较髙的故障诊断率，缺乏理论性的指导。２、寻找更合理的故障模式识别技术。人工智能与机器学习的飞速发展，人们针对复杂的电路板和庞大的数据量进行故障识别有了更多的诊断算法选择机一会，下步要研巧的工作就是寻找更高效的识别算法。４３ 北方工业大学硕±学位论文参考文献．流形学习理论与方法及其应用研巧．国防科学技术大学［Ｕ詹宇斌［Ｄ］，２０１１．２黄移军．基于局部线性嵌入的高维数据降维研究阳］．中南大学２００９．，［］３王超．基于流形学习的有监督降维方法研巧巧］．中国科学技术大［］学２００９．，［４］雷迎科．流形学习算法及其应用研巧［Ｄ］．中国科学技术大学，２０１１．５唐文俊．基于流形学习的数据降维的研究巧］．广东王业大学２０１２．，［］陈磊．基于线性子空间与流形学习的人脸识别算法研巧化］．西安电子科［巧技大学，２０１４．ＢｉｉｌｎｆｏｄＪ约ａｌｈａｉ７ｅｒｎｓｔｅｎＤｅＳｖａＶＬａｒＣ．Ｇｒａｒｏｘｍａｔｉｏｎｓ化ｅｏｄｅｓｉｃｓｏｎ［，ｇ，ｐｐｐｇ］ｅｍｂｅｄｄｅｄＳＵＴＲｍａｎｉｆｏｌｄｓ．ｔａｎｆｏｒｄｎｉｖｅｒｓｉｔｅｃｈｎｉｃａｌｅｏｒｔ．２００１．ｙ，ｐ臧家鹏．互联网环境下企业信息获取与加工技术及应用探究巧］．华中科［巧技大学２０１２．，例李盛化基于ＶＣ＋＋和ＭＡＴＬＡＢ的车型分类及车辆计数系统［Ｄ］？东北师范大学２００９．，１０毛向德王庆贤董唯光梁金平．小波包神经网络与数据降维的移，，，，朱科［］－相全桥变换器的故障诊断［Ｊ］．电源学报２０１４０４６８：，，１１罗混．基于小波分析和人工神经网络的容差模拟电路故障诊断巧］．湖南［］大学，２０１１．１．基于小波分析和神经网络的模拟电路故障诊断巧］．湖南大［巧宋丽伟学，２０１２．＊＊３ＹＷｈｅｎＹＷＷ－１ａｎｇＹｏｎａｎｄｉｎａｎｇａｖｅＦＥｕｅｈａｉａｎｌｅｔＢａｓｅｄｅａｔｕｒｅｘｔｒａｃｔｉｏｎｉｎ［］，ｇｚｇ，Ｑｙｏｎｇ，＇＊－ＰａＦｓｓｉｌｔｅｒｒｃｕｉｔＦａｕｌｔＤｉａｇｎｏｓｉｓｆｏｒＢｉｕａｄＨｉｇｈＣｉｔＭａｈｅｍａｔｉｃａｌＰｒｏｂｌｅｍｓｉｎＥｎｉｎｅｅｒｉｎｑ，ｇｇ，ｖｏｌ．２０１６，Ａｒｔｉｃｌｅ阻％拾８４７，１３ｐａｇ的，２０Ｗ．ｄｏｉ：１０．１１５５／２０１６／５６８２８４７王勤勇．基于人工免疫技术的模拟电路故障诊断技术［Ｄ］１４．北方工业大［］学２０１３．，彭良五禹枉兵．基于小波分析和克隆选择算法的模拟电路故障诊断［Ｊ］．［巧２００７０６－电工技术学报：１２１６．，，。巧ＡＭＩＮＩＡＮＦ，ＡＭＩＮＩＡＮＭ，ＣＯＬＬＩＮＳＪＲＨＷ．Ａｎａｌｏｇｆａｕｌｔｄｉａｇｎｏｓｉｓｏｆａｃｔｕａｌｃｉｒｃｕｉｔｓ４４ 北方工业大学硕±学位论文ｕｓｉｎｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＩｎｓｔｒｕｍｅｎｔａｔｉｏｎａｎｄＭｅａｓｕｒｅｍｅｎｔ２００２ｇ，，５１３４－５０：５４（）１７詹宇斌．流形学习理论与方法及其应用研究巧］．国防科学技术大学［，］２０１１．ｒｅ－ｏｗｅｉｓＳＳａｕｌＬ．ＮｏｎｌｉｎｅａｒｄｉｍｅｎｓｉｏｎａｌｉｄｕｃｔｉｏｎｂｌｏｃａｌｌｌｉｎｅａｒｅｍｂｅｄｄｉｎＪ．口巧民，ｔｙｙｙｇ［］—Ｓｃｉｅｎｃｅ．２０００２９０５５００：２巧３２３２６．，（）ＳｅｕｎＨＳＬｅｅＤＤ．ＴｈｅＭａｎｉｆｏｌｄＷａｓＯｆＰｅｒｃｅｔｉｏｎ？Ｓｃｉｅｎｃｅ．２０００２９０５００：＂刮ｇ，ｙｐ阴＾口）２２６８－２２６９．口０］ＴｅｎｅｎｂａｕｍＪ，ＳｉｌｖａＶ，ＬａｎｇｆｏｒｄＪ，Ａｇｌｏｂａｌｇｅｏｍｅｔｒｉｃｆｒａｍｅｗｏｒｋｆｏｒｎｏｎｌｉｎｅａｒｄ０巧０５００１－ｉｍｅｎｓｉｏｎａｌｉｔｙｒｅｄｕｃｔｉｏｎ．Ｓｃｉｅｎｃｅ．２００：巧９２３巧．，口…）［２１ＢｒｅｇｌｅｒＣ，ＯｍｏｈｕｎｄｒｏＳ．Ｎｏｎｌｉｎｅａｒｍａｎｉｆｏｌｄｌｅａｒｎｉｎｇｆｏｒｖｉｓｕａｌｓｅｃ沈ｒｅｃｏｎｉｔｉｏｎＣ．虹ｐｇ［］］Ｐｒｏｃｅｅｄｉｎｓｆ５化ＩｎｔｔｉｌＣｏｎｆｅｒｅｎｃｅｏｎＣｏｔＶｉｉｏ．１９９５：４９一９９，ｇｏｅｍａｏｎａｍｐｕｅｒｓｎ２２．．基于流形学习的特征提取方法及其应用研巧中国科技大学博±［］李波学位论文合肥．２００８．，口３］ＷｅｉｎｂｅｒｇｅｒＫＱ，ＳｈａＦ，ＳａｕｌＬＫ．ＬｅａｒｎｉｎｇａｋｅｒｎｅｌｍａｔｒｉｘｆｏｒｎｏｎｌｉｎｅａｒｄｉｍｅｎｓｉｏｎａｌｉｔｙｒｅｄｕｃｔｉｏｎＣ？虹Ｐｒｏｃ说ｄｉｎｓｏｆｔｈｅ２１巧ｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎＭａｃｈｉｎｅｌｅａｒｎｉｎ．２００４：］［ｇｇ－１０６１１３．２４ＬｉｎＴ，ＺｈａＨ．ＲｉｅｍａｎｎｉａｎＭａｎｉｆｏｌｄＬｅａｒｎｉｎＪ．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＰａｔｅｒｎＡｎａｌｙｓｉｓ［ｇ［］］６－ａｎｄＭａｃｈｉｎｅＩｎｔｅｌｌｉｅｎｃｅ．２００８，３０：巧８０９－ｇ口）５ｅｉｎｂｅｒｅｒＫＳｈａＦＳａｕｌＬ．２００４．ＬｅａｒｎｉｎｇａＫｅｒｎｅｌＭａｔｒｉｘｆｏｒＮｏｎｌｉｎｅａｒＤｉｍｅｎｓｉｏｎａｌｉｔ口］ｇ？，ｙ－ＭａＲｅｄｕｃｔｉｏｎＩ．ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅｔｗｅｎｔｙｆｉｒｓｔｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎｃｈｉｎｅｌｅａｒｎｉｎｇ．口巧Ｗｅｉｎｂｅｒｇｅｒ氏ＳａｕｌＬ．ＵｎｓｕｐｅｒｖｉｓｅｄＬｅａｒｎｉｎｇｏｆＩｍａｇｅＭａｎｉｆｂｌｄｓｂｙＳｅｍｉｄｅ伍ｌｉｔｅＰ－ｒｏｒａｍｍｉｎ．ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＣｏｍｐｕｔｅｒＶｉｓｉｏｎ＾２００６．７０１：７７９０．ｇｇ（）口７］Ｔ．Ｌ的Ｚｈａ＾托６．Ｍａｙ，Ｒｉｅｍａｎｎｉａｎｍａｎｉｆｂｌｄｌｅａｒｎｉｎｇ，圧ＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＰａｔｔｅｒｎＭ２００８－Ａｎａ．３０５７ｌｙｓｉｓａｎｄａｃｈｉｎｅＩｎｔｅｌｌｉｇｅｎｃｅ，．ｖｏｌ，ｎｏ．，．９６８０９．ｐｐ口巧吐Ｃｈａｎｇ，Ｙｅｕｎｇ，０？Ｙ＂Ｒｏｂｕｓｔｌｏｃａｌｌｙｌｉｎｅａｒｅｍｂｅｄｄｉｎｇ，ＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ＾２００６－３９６：１０５３１０６５．（）［２９］ＴｅｎｅｎｂａｕｍＪＢ，ｄｅＳｉｌｖａＶ，ＬａｎｇｆｏｒｄＪＣ．ＡｇｌｏｂａｌｇｅｏｍｅｔｒｉｃｆｒａｍｅｗｏｒｋｆｏｒｎｏｎｌｉｎｅａｒｄＳ－２３２３ｉｍｅｎｓｉｏｎａｌｉｔｙｒｅｄｕｃｔｉｏｎ．ｃｉｅ打ｃｅ２０００？巧０５００：巧巧．，扣口）３０卢进军杨杰．ＬＬＥ．２００６．，梁栋等在图像检索中的应用［］，３罔志敏．基于流形学习的数据约简方法研巧与应巧［Ｄ］．山东师范大［Ｕ４５ 北方工业大学硕±学位论文学２０１２．，３２人彬王磊．人工免疫系统：原理、模型、分析及展望［Ｊ］．计算机学［］肖，２００２２－报（１）：１２８１９３．，，ＢＣ－－Ｖ３ｅｒｋｏｗｉｔＺＲ＊８、ｏｎｄｉｔｉｏｎｓｆｏｒＮｅｔｗｏｒｋＥｌｅｍｅｎｔａｌｕｅＳｏｌｖａｂｉｌｉｔ．ＣｉｒｃｕｉｔＴｈｅｏｒｙＩＲＥ口ｊｙ，］－Ｔｒａｎｓａｃｔｉｏｎｓ．：．２４２９．ＯＨ１９拍９ｊ。）口［３４］ＮａｖｉｄｊＮ．ａｎｄＡ．Ｎ．ＷｉｌｌｓｏＢｊ比，Ａｔｈｅｏｒｙａｎｄ処ａｌｇｏｒｉｔｈｍｆｏｒａｎａｌｏｇｃｉｒｃｕｉｔｆａｕｌｔｄｉａｇｎｏｓｉｓ．ＣＴ７９４４０￣ｉｒｃｕｉｔｓａｎｄＳｓｔｅｍｓＩＥＥＥｒａｎｓａｃｔｉｏｎｓｏｎ巧．２６７：．４巧．ｙ，＊（）９［３５］Ｓａｎｄｉｅｒ，Ｊ．Ｗ．ａｎｄＡ．Ｅ．Ｓａｌａｍａ，Ｆａｕｌｔｄｉａｇｎｏｓｉｓｏｆａｎａｌｏｇｃｉｒｃｕｉｔｓ．ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ，－１９８５．１．？巧８：２７９１３２５（）ｐ．２００３６刘新东．基于ＬＬＥ和ＳＶＭ的模拟电路软故障诊断１系统仿真技术及［］其应用学术会议．，中国吉林长春３７廖剑．．．测，周绍磊，史贤俊，王朕模拟电路故障特征降维方法［Ｊ］振动［］－＋４试与诊断５０２：３０２３０８００．，２０１，［３８］Ｃａｔｅｌａｎｉ，Ｍ．ａｎｄＡ．Ｆｏｒｔ，Ｓｏｆｔｆａｕｌｔｄｅｔｅｃｔｉｏｎａｎｄｉｓｏｌａｔｉｏｎｉｎａｎａｌｏｇｃｉｒｃｕｉｔｓ：ｓｏｍｅｒｅｓｕｌｔｓａｎｄａｃｏｍａｒｉｓｏｎｂｅｔｗｅｅｎａｆｉｉｚｚａｒｏａｃｈａｎｄｒａｄｉａｌｂａｓｉｓｆｕｎｃｔｉｏｎｎｅｔｗｏｒｋｓ．ｐｙｐｐＴ２００２１１－２０２ＩｎｓｔｒｕｍｅｎｔａｔｉｏｎａｎｄＭｅａｓｕｒｅｍｅ雌阻距ｒａｎｓａｃｔｉｏｎｓｏｎ＾．５：．９６．口）ｐＴａｉｉ￥？ｅｔａｌＡＮｏｖｅｌＭｅｔｈｏｄｆｏｒＡｎａｌｏＦａｕｌｔＤｉａｇｎｏｓｉｓＢａｓｅｄ処ＮｅｕｒａｌＮｅｔｗｏｒｋｓａｎｄｊ，，口句ｇＧｅｎｅｔｉｃＡｌｇｏｒｉｔｈｍｓ．ｌｅｅｅＴｒａｎｓａｃｔｉｏｎｓｏｎＩｎｓｔｒｕｍｅｎｔａｔｉｏｎａｎｄＭｅａｓｕｒｅｍｅｎｔ２００８．５７１１：，（）－ｐ．２树１２６３９．－ＨＬｈ－ＩｅｄａｎｃｅＦａｕｎＥｃＰｏｗ４０ＨＹ－ｏｎ．Ｙ？姐ｄＷ．Ｓ．ｕａｎｏｃａｔｉｎｇＨｉｍｐｌｔＳｅｃｔｉｏｎｉｌｅｔｒｉｃｅｒ［，ｇ，ｇ］ｇＳｎＷＴｍｋ－ＭＧｔｓｔｅｍｓＵｓｉＡｌｉｔｈｔＶｙｉｇａｖｅｌｅｔｒａｎｓｆｏｒ，ｅａｎｓ，ｅｎｅｃｇｏｒｍｓ，ａｎｄＳｕｐｐｏｒｅｃｔｏｒＭａｃｈｉｎｅ．ＭａｔｈｅｍａｔｉｃａｌＰｒｏｂｌｅｍｓ虹Ｅｎｇｉｎｅｅｒｉｎｇ，２０１５．４ＦＡｍｕ－ｎｅ－ｍｉｎｉａｎＭ．ａｎｄ．ｉｎｉａｎＮｅｒａｌｔｗｏｒｋｂａｓｅｄａｎａｌｏｃｉｒｃｕｉｔｆａｕｌｔｄｉａｎｏｓｉｓｕｓｉｎｇ。Ａ＾＾ｇｇ［ｗａｖｅｌｅｔｔｒａｎｓｆｏｎｎａｓｐｒｅｐｒｏｃ的ｓｏｎＣｉｒｃｕｉｔｓａｎｄＳｙｓｔｅｍｓ口：ＡｎａｌｏｇａｎｄＤｉｇｉｔａｌＳｉｇｎａｌＰｒｏｒａ－ｃ的ｓｉｎｇ圧ＥＥＴｎｓａｃｔｉｏｎｓｏｎ，２０００．４７２：．１５１１５６．，（）ｐ４２Ｐｅｎｇ，Ｗ．ａｎｄＹ．Ｓｈｉｙｕａｎ，Ａｎｅｗｄｉａｇｎｏｓｉｓａｐｐｒｏａｃｈｆｏｒｈａｎｄｌｉｎｇｔｏｌｅｒａｎｃｅｉｎａｎａｌｏｇａｎｄ［］－ｕｓｚｚｍｓｉｎａｌｃｉｒＩＲｅＰＩＥＥＥｍｉｘｅｄｉｒｃｕｉｔｓｂｙｉｎｆｉｉｍａｔｈ．ＣｃｕｉｔｓａｎｄＳｓｔｅｓ：ｕｌａｒａｅｒｓｇｇｙｙｇｐ，Ｔｎ２００５－ｒａｎｓａｃｔｉｏｓ．１１２１２７．ｏｎ，巧１０：２８（）护ＤｅＣａｓｔｒｏ，Ｌ．Ｎ．ａｎｄＦ．Ｊ．ＶｏｎＺｕｂｅｎ，ＬｅａｒｎｉｎｇａｎｄｏｐｔｉｍｉｚａｔｉｏｎｕｓｉｎｇｔｈｅｃｌｏｎａｌｓｅｌｅｃｔｉｏｎＥｕＩＥＥＥ－ｒｉｎｒｉｌｅ．ｖｏｌｕｔｉｏｎａｒｙＣｏｍｔａｔｉｏｎＴｒａｎｓａｃｔｉｏｎｓｏｎ２００２．６３：．２３９２５１．ｐｐ，，ｐｐ（）４６ 北方工业大学硕壬学位论文申请学位期间的研究成果及发表的学术论文＂Ｙｕｅｈａａｎａｎｄｉｎｏｎａｎｅｌｅ－ｉＷｇＹｏｎｚｈｅｎＹａｎＱＷＷａｖｔＢ化ｅｄＦｅａｔｕｒｅ山，ｇｇ，ｙｇｇ，’’Ｅｘｔｒａｃｔｉｏｎｉｕａｄｈ－ｉｈｅｍａｌｉｎＦａｕｌｔＤｉａｎｏｓｉｓｆｏｒＢＨｉｇＰａｓｓＦｉｌｔｅｒＣｒｃｕｉｔＭａｔｔｉｃａｇｑ＾ＰｒｏｂｌｅｍｓｉｎＥｎｇｉｎｅ灯ｉｎｇｖｏｌ．２０１６ＡｒｔｉｃｌｅＩＤ５６８２８４７１３ａｅｓ２０化．，，，ｐｇ，ｄｏｉ：ｌ０．１１５５／２０１６／５６８２８４７＂２ＪｉａｎｈｏｕＧａｉｉＧａｎＸｉｅＹｏｎｚｈｅｎＹａｎａｎｕａｎＬｉｕ．Ｈｅｔｅｒｏｅｎｅｏｕｓ［］ｊｇ，ｇｇ，Ｗｑｇ＂ＩｎｆｏｎｎａｔｉｏｎＫｎｏｗｌｅｄｇｅＣｏｎｓｔｒｕｃｔｉｏｎＢａｓｅｄｏｎＯｎｔｏｌｏｇｙ．ＴＥＬＫＯＭＮＩＫＡＴｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎＣｏｍｔｉｎＥｌｅｃｔｒｏｎｉｃｓａｎｄＣｏｎｔｒｏｌ１４．４０１．（ｐｕｇ）口句４７ 北方工业大学硕±学位论文致谢。光阴似箭，岁月如梭，短暂而充实的硕±学习生涯即将结束能够顺利完成学业离不开导师的精也培养、领导的亲切关怀、家人、同学化及朋友的热必帮助。值此论文完成之际，向各位表示最真诚的敬意和最衷也的感谢。首先，我要感谢的是我的导师王月海教授。王老师开阔的研充思路、渊博的、］专业知识、严谨的治学态度敏锐的学术目光１＾１及诲人不倦的敬业精神，无时无。刻不在激励着我前进，使我受益匪浅从王老师身上学到的不仅仅是前沿的专业知识和科学研巧方法一，更重要的是刻苦钻研的精神和严谨的科研作风，这是我生最宝贵的财富，也将激励着我在今后的学习与工作中乘风破浪。在此，对王老师的辛勤栽培再次表示最诚挈的谢意。其次，我要感谢计算机学院的全体老师，感谢各位老师的倾囊相授Ｗ及在我学习期间给予莫大的关必和帮助。感谢电子信息工程学院的杨扬老师、杜涛老师、和王华峰老师Ｉ，特别感谢刘万泉教授在我ＳＣ论文写作与投稿期间给予精也细致的指导Ｉ论文的发表。同时也特别感谢论文答辩的各位老师在，让我能够完成ＳＣ百忙之中审阅我的论文和出席答辩会。此外，在此我还要感谢本人所在的图像与智能感知实验室Ｈ年来为我提供良好的学习环境和便利的科研条件。感谢实验室的程冉师兄、王勤勇师兄Ｗ及各位师弟师妹们，在此衷也的感谢他们给予的关也、支持和帮助。最后我要感谢我的父母、家人和室友，无微不至的关怀和博大无私的关爱，始终是我前进的动力源泉，感谢他们在我身后默默地支持和无私的奉献。间永征２０１７年６月６日４８