小波与神经元信息编码问题的提出

《小波与神经元信息编码问题的提出》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、姓名：洪朝飞学号：1014203032小波与神经元信息编码问题的提出神经元是神经系统中处理和传递信息的基本单元，神经元通过放电编码信息，如图1所示。由于神经元生物物理特性的限制，神经元的放电频率是有限的。但是生物在生存环境中需要处理的信息通常是时变信号，为保证神经系统能正确的做出判断和反应，则要求神经元对时变信息的在时间和幅值的表征上保证较高的精度，这样就超出了神经元放电所能承载的带宽。因此，神经系统必须对原始信号进行一定的压缩处理，才能保证信息在神经系统中有效的传递。小波分析是近几十年发展起来

2、的信号处理方法，其数学本质是函数在一组基张成的泛函空间下的线性表示。小波可以在不同的时间尺度和频率尺度上表示一个信号，因此被称为数学显微镜。小波分析可以对信号进行压缩和去噪，而这与神经元对信号需要的处理相似，可以假设神经元对信号的处理与小波对信息的处理在本质上具有某些相似之处。下面，将首先从神经系统对信号处理的实例以及神经元编码特性中讨论神经元编码与小波分析的联系。然后，通过简单的神经元模型讨论神经元以小波形式表示信息的可能性。1.神经系统中的信号处理1.1小白鼠对胡须位置的编码小白鼠胡须在探测

3、前方物体的几何形状、材质等信息时需要不停移动并与物体不断接触摩擦。通过对胡须移动位置、速度和受力等信息对前方物体进行判断[1]，如图2所示。为了对胡须的位置、速度和力进行编码，传入神经元中具有不同的编码选择性，即不同神经元会提取感受器信号中的不同信息再通过放电向下传递。这种选择性使神经元对输入信息根据特定规则将信息进行了分解[2]，如图3所示。分解的结果是神经元可以通过较稀疏的放电表征有效的信息，忽略了神经元不敏感的信息。由此对信息进行了压缩和去噪处理。这种处理方法与小波分析中以小波基对信息进行

4、分解的方法在思想上是相通的。图1.神经元对信息的编码图2.小白鼠通过胡须探测物体姓名：洪朝飞学号：1014203032图3.神经元对胡须位置信息的分解。左图中分别为输入的位置信息以及两个神经元通过不同的放电形式提取信息。右图中为表示表示位置、速度和力的理想分解形式，以及不同神经元放电提取的平均信号形式。1.2视觉信息的编码视觉信息的编码也有类似于小波分解的形式：从猫、猴子等的初级视觉皮层中发现了对线、边等形状具有选择性的神经元，如图4所示。这种表示视觉信息的基本单元成为感受野，它们组成了自然场景

5、的稀疏的、分布式的表达。这种视觉信息的选择性的感受野被认为是神经系统优化视觉处理的非监督学习得到的。有研究表明，通过互信息最大化的非监督学习可以得到与稀疏神经网络中类似的Gabor-like的感受野，并且这些感受野具有很强的不相关性，从而保证了视觉信息表示的效率[3]。同时，视觉信息在神经系统中由底层向高层传递时感受野也在发生变化。高层神经元将底层神经元的感受野进行了组合，可以更高效的表征视觉信息，同时有研究认为高层神经元对底层的表征具有“预测”作用，即可以补全底层中离散的视觉信息，预测图形中的

6、性状特征，再通过反馈给底层神经系统纠正预测偏差[4]，如图5所示。图5.视觉神经元的层级结构图4.初级视觉皮层神经元的感受野姓名：洪朝飞学号：10142030321.2神经元编码特性以上两个实例说明了神经元对时域上变化的信号和空间上分布的信号的表征，而现实中的神经系统需要表示的一般是同时具有时间和空间维度的信息，所以神经元的响应一般即具有时间特性又有空间特性，根本上表现在神经元空间连接特性和时间上的适应特性[5]，如图6所示。同时，由于神经元对信号进行了时间和空间上的分解，如图7所示，神经系统必

7、须通过不同特性的神经元集群表征完整的输入信息，伸进系统可以将信息均匀的分配给各神经元，使神经元在表征自然信号时具有稳定的放电频率[6]。图6.神经元的时空特性图7.神经元集群的编码1.简单模型分析神经元小波形式编码神经元通过放电，即膜电压脉冲形式的波动表征信息。所以研究神经系统的信息表示最终需要得到神经元动力学的支撑。神经元的电生理动力学可以简单的表示为输入电流和膜上离子通道共同影响膜电压的变化率，即：CMdVdt=Iapp-Iion(V,n)（2-1）Leaky-Integrate-Fire模

8、型是最简单的神经元动力学模型，它表示为：CMV=I-gV，V=Vth,V→0（2-2）其中g代表的神经元的时间适应性。对于不同的参数g可以提取得到不同输入信息。令输入的形式为：I=cicos⁡(wit-ti)，（2-3），且可以得到特定LIF神经元的放电序列｛ft1,ft2,…ftn｝。将式（2-3）的输入形式代入（2-2），可以得到膜电位分段表示形式：Vi=xicos⁡(wit-ti)+e-gt-ftiCm，t∈(fti-1,fti)，(2-4)通过边界条件Vifti-1=0,Vifti-1=