ArtificialNeuralNetworks人工神经网络培训课件.ppt

《ArtificialNeuralNetworks人工神经网络培训课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、ArtificialNeuralNetworks人工神经网络IntroductionTableofContentsIntroductiontoANNsTaxonomyFeaturesLearningApplicationsISupervisedANNsExamplesApplicationsFurthertopicsIIUnsupervisedANNsExamplesApplicationsFurthertopicsIIIContents-IIntroductiontoANNsProcessingelemen

2、ts(neurons)ArchitectureFunctionalTaxonomyofANNsStructuralTaxonomyofANNsFeaturesLearningParadigmsApplicationsTheBiologicalNeuron10billionneuronsinhumanbrainSummationofinputstimuliSpatial(signals)Temporal(pulses)ThresholdovercomposedinputsConstantfiringstreng

3、thbillionsynapsesinhumanbrainChemicaltransmissionandmodulationofsignalsInhibitorysynapsesExcitatorysynapsesBiologicalNeuralNetworks10,000synapsesperneuronComputationalpower=connectivityPlasticitynewconnections(?)strengthofconnectionsmodifiedNeuralDynamicsRe

4、fractorytimeActionpotentialActionpotential≈100mVActivationthreshold≈20-30mVRestpotential≈-65mVSpiketime≈1-2msRefractorytime≈10-20ms神经网络的复杂性神经网路的复杂多样，不仅在于神经元和突触的数量大、组合方式复杂和联系广泛，还在于突触传递的机制复杂。现在已经发现和阐明的突触传递机制有：突触后兴奋，突触后抑制，突触前抑制，突触前兴奋，以及“远程”抑制等等。在突触传递机制中，释放神经递质

5、是实现突触传递机能的中心环节，而不同的神经递质有着不同的作用性质和特点神经网络的研究神经系统活动，不论是感觉、运动，还是脑的高级功能（如学习、记忆、情绪等）都有整体上的表现，面对这种表现的神经基础和机理的分析不可避免地会涉及各种层次。这些不同层次的研究互相启示，互相推动。在低层次（细胞、分子水平）上的工作为较高层次的观察提供分析的基础，而较高层次的观察又有助于引导低层次工作的方向和体现其功能意义。既有物理的、化学的、生理的、心理的分门别类研究，又有综合研究。TheArtificialNeuronStimulu

6、surest=restingpotentialxj(t)=outputofneuronjattimetwij=connectionstrengthbetweenneuroniandneuronju(t)=totalstimulusattimetyi(t)x1(t)x2(t)x5(t)x3(t)x4(t)wi1wi3wi2wi4wi5NeuroniResponseArtificialNeuralModelsMcCullochPitts-typeNeurons(static)Digitalneurons:acti

7、vationstateinterpretation(snapshotofthesystemeachtimeaunitfires)Analogneurons:firingrateinterpretation(activationofunitsequaltofiringrate)ActivationofneuronsencodesinformationSpikingNeurons(dynamic)Firingpatterninterpretation(spiketrainsofunits)Timingofspik

8、etrainsencodesinformation(timetofirstspike,phaseofsignal,correlationandsynchronicityBinaryNeurons“Hard”threshold=thresholdex:Perceptrons,HopfieldNNs,BoltzmannMachinesMaindrawbacks:canonlymapbinaryfunct