稀疏表达简述

《稀疏表达简述》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、SparseandRedundantRepresentations1.范数越趋向于0,得到的解越稀疏。2.解在多么稀毓的情况卜以认为是唯一的全局最优解？足够稀疏就是。3.如何找到这个解？两个方向：乩贪婪算法肓接算。b.松弛成p范数。示者表现比前者好。4.两种解法适用的条件，或者说什么样子的解能用这两种方法求岀？5.研究比Ax二b更松弛的方程，比如加入噪声。这章看得头人啊，不过最终结论是贪焚算法和1范数法都可以，还提出来一种Q计算方法。6.计算Q的儿种算法一迭代收缩算法，Q适川于维数较大的问题。7.实际问题中非零数可与远多于理论结果。8.2007年Candes和T

2、ao提出的一种新的追踪算法DS。DS和BP哪个好？DS能否和BP结合得到更好的结果？全书前8章理论知识的脉络就是：第一笫二章是基础，指出稀疏解就是求0范数,范数越趋向于0,得到的解越稀疏。第三第六第八

3、章是关丁0范数的二种解法，［分别是第三章的追踪算法，第六章的迭代收缩算法和第八章的Danzig-Selector算法。主要讲了追踪算法。追踪算法乂分为两种，一种是贪婪算法，直接求0范数问题，比如正交匹配追踪，0MP,和Thresholding算法(应该是这种算法表现最差)；另一种是将0范数松弛成P范数，p大于0小于等于1,比如当p等于1时候的基追踪。0范数也可以松

4、弛成具他形式，比如第10章第189页，

5、x

6、-s*log(l+

7、x

8、/s)。p范数或者其他形式可以用迭代追踪算法算出。第四章是追踪算法的条件，理想解在多么稀疏的情况下能用追踪算法算出或接近？0MP以及MP,和Thresholding算法在实际解满足什么条件的情况F适川。笼统來说，这一章开头就说了，只要是解满足“足够稀疏”，这些算法就能满足。第五章是实际应用中算法的延伸。()笫七章是概率统计意义下的算法，能以多大概率接近或者收敛到解。O放近在看sparseandredundantrepresentations这本书，进度比较慢，不过力争看过的都懂，不把时间浪费掉。

9、才看完了不到3页吧，书上基本给出了稀疏表达的概念以及传统的求法。我也用书中的例子来引入吧。1：矩阵A(n*m),其中n远远小于mJ—副图片经过缩小或者模糊处理导致该图片所占用的空间变小了，此吋用向址b来表示，A表示图片所经过的处理1X代表原图片，

10、那么这个就可以表示成为：Ax=b2：因为A是欠定的,一般情况下x的解有很多种,而我们要的是那种最稀疏的X。个人理解这个就是稀疏表达吧。3：接下來文章引入了如何求x的方法，假定j(x)是求x最稀疏的西数，并且前提条件是Ax=bo用数学表达也就是Minj(x)s.t.Ax=b4：为了求出这个j(x),一般情况下这个j(x)

11、对应的是x的范数

12、

13、x

14、

15、右下角2的平方最小值,为了求出

16、

17、x

18、

19、右下角2的平方最小值，我们引入了拉格朗日乘数。关丁-拉格朗曰乘数，我在下而补充，省的再去找资料看了。if(X)=X「+乂7*(,衣_方)2拉格朗日乘数：它是专门为某变量在其他约束条件下求极值的问题解决方案，当m个变量在K个约束条件下求极值的话，它把变成k+m个数來求变量的极值，给约束条件加一个乘了即可。也就是我们上面的列出来的。为了求出X的敲小值，对X求偏导(当导数为0的地方时极值点)敲终得到结果如卜-：茗⑴Sx=2x-^-AT那么x的最优化的解就是(是让上式为o得到的)：把该值代入故初的Ax=b

20、屮可以求得拉姆达的值，然后就得到X最优化的解为:X甲=Ar(±4rylb=，犷bv补充：个人对稀疏表达的理解是，如杲输入为一个很复杂的A,为了得到稀疏的表达b,那么经过一系列的操作x得到b,我觉得冃的是为了得到稀疏表达的b,但是书中给出的例子是这样，也可能我对信号处理这吐地方从没有过接触，导致的不太理解。◊用前看了3页书，实在觉得太难看下去了,看到一个点都要去复习几天的书，才能够连贯起来。。