对抗性环境下深度学习的鲁棒性研究

《对抗性环境下深度学习的鲁棒性研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、硕士学位论文对抗性环境下深度学习的鲁棒性研究作者姓名林哲学科专业计算机科学与技术指导教师陈百基所在学院计算机科学与工程学院论文提交日期2018年4月RobustnessofDeepLearningunderAdversarialEnvironmentADissertationSubmittedfortheDegreeofMasterCandidate：LinzheSupervisor：PatrickP.K.ChanSouthChinaUniversityofTechnologyGuangzhou,China分类号：TP3学校代号：10561学号：201620130959华南理工

2、大学硕士学位论文对抗性环境下深度学习的鲁棒性研究作者姓名：林哲指导教师姓名、职称：陈百基副教授申请学位级别：工学硕士学位学科专业名称：计算机科学与技术研究方向：对抗性环境下的机器学习论文提交日期：2018年4月论文答辩日期：2018年5月31日学位授予单位：华南理工大学学位授予日期：答辩委员会成员：主席：许勇委员：吴永贤唐韶华毛爱华张见威摘要尽管深度学习在许多应用中取得了优异的表现，但一些研究表明深度神经网络在对抗性环境中十分脆弱。如在生物信息识别中，存在攻击者对样本恶意进行篡改时，深度学习算法会给出错误的结果，导致系统安全性降低。到目前为止，堆栈自编码器作为常用的深度神经网络

3、之一，其在对抗性环境下存在的巨大漏洞尚未被研究过。在本文中，我们首先研究现有的针对深度神经网络的逃避攻击算法，以便了解它们能够在多大程度上有效地对深度神经网络造成威胁。然后针对堆栈自编码器创新性地提出了基于敏感度的学习方法，一种使其误差和网络输出波动最小化的鲁棒学习算法。敏感度被定义为随着输入上的微小变化，模型输出波动的大小。当模型的敏感度越小，其模型输出越稳定。在训练模型的时候，训练的目标函数既包括了模型在训练数据上的分类误差，也包括了模型的敏感度。由于所提出的鲁棒学习算法不仅考虑了精度，而且考虑了稳定性，因此所训练的堆栈自编码器在逃避攻击下将具有更强的鲁棒性。实验中，本文将

4、基于敏感度训练的堆栈自编码器与传统堆栈自编码器以及堆栈降噪自编码器相对比，并在准确率，鲁棒性和时间复杂度等指标上验证了敏感度对抗性环境下的有效性。此外，本文也将敏感度应用于卷积神经网络，初步验证敏感度能够提升卷积神经网络的鲁棒性。关键词：对抗性环境；深度神经网络；鲁棒学习；逃避攻击；敏感度IAbstractAlthoughdeeplearninghasachievedexcellentperformanceinmanyapplications,somestudieshaveshownthatdeeplearningarevulnerableunderadversarialenv

5、ironmentsinwhichexistanattackerwhomanipulatessampleonpurposeinordertomisleaddecisionsofaclassifier.Astraditionaldeeplearningmethodsdoesnotconsideradversarialattacksinlearning,itsperformancemaydropdramatically.Ourstudyfocusesonstackautoencoderwhichisoneofthecommonlyuseddeepneuralnetworkmodels

6、.Wefirststudywhetherandhowtheexistingevasionattackalgorithmsdowngradestackedautoencoder.Asensitivity-basedrobustlearningmethodthatminimizestrainingerroraswellassensitivityisproposedforthestackautoencoder.Sensitivityisdefinedasthechangeofmodeloutputwithsmallchangeintheinput.Thesmallersensitiv

7、ityindicatesthemorestablethemodel.Bothclassificationerrorandsensitivityareminimizedintraininginordertobuildrobustclassifier.Ourproposedmethodismorerobustthanthetraditionalonesunderevasionattack.Intheexperiment,thisstudycomparesourmodelwiththetradit