h264中基于边缘方向检测的帧内预测模式选择算法

《h264中基于边缘方向检测的帧内预测模式选择算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、Ｈ．２６４中基于边缘方向检测的帧内预测模式选择算法刘晓明，高燕，仲元红，田雨，吴德松（重庆大学通信工程学院，重庆４０００４４）摘要：运动估计是Ｈ．２６４中最为复杂的部分，帧内预测是运动估计的重要内容。Ｈ．２６４中帧内预测模式众多，大大增加了编码的复杂度。在帧内预测中，一般是通过率失真优化或者相关特性来减少选择预测模式，但复杂度还是较高。针对此问题，提出了一种改进的基于边缘方向检测的帧内预测模式选择算法。该算法利用方向检测方法来检测模式选择方向上像素的相关性。测试结果显示，本算法在保证视频质量的前提下减小了计算复杂度，大大提高了编

2、码速度。关键词：运动估计；帧内预测；率失真优化；模式选择；方向检测；计算复杂度中图分类号：ＴＮ９１９．８文献标志码：ＡＯｎｅｉｎｔｒａｐｒｅｄｉｃｔｉｏｎｍｏｄｅｓｅｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｅｄｇｅｄｉｒｅｃｔｉｏｎｄｅｔｅｃｔｉｏｎｉｎＨ．２６４ＬＩＵＸｉａｏｍｉｎｇ，ＧＡＯＹａｎ，ＺＨＯＮＧＹｕａｎ－ｈｏｎｇ，ＴＩＡＮＹｕ，ＷＵＤｅ－ｓｏｎｇ（ＣｏｌｌｅｇｅｏｆＣｏｍｍｕｎｉｃａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ，ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙ，Ｃｈｏｎｇｑｉｎｇ４０００４４，Ｐ．Ｒ．Ｃｈｉｎａ）

3、Ａｂｓｔｒａｃｔ：ＭｏｔｉｏｎｅｓｔｉｍａｔｉｏｎｉｓｔｈｅｍｏｓｔｃｏｍｐｌｅｘｐａｒｔｉｎＨ．２６４．Ｉｎｔｒａｐｒｅｄｉｃｔｉｏｎｉｓａｎｉｍｐｏｒｔａｎｔｐａｒｔｏｆｍｏｔｉｏｎｅｓｔｉｍａｔｉｏｎ．ＴｈｅｒｅａｒｅａｎｕｍｂｅｒｏｆｉｎｔｒａｐｒｅｄｉｃｔｉｏｎｍｏｄｅｓｉｎＨ．２６４，ｗｈｉｃｈｎｏｄｏｕｂｔｇｒｅａｔｌｙｉｎｃｒｅａｓｅｅｎｃｏｄｉｎｇｃｏｍｐｌｅｘｉｔｙ．Ｉｎｉｎｔｒａｐｒｅｄｉｃｔｉｏｎ，ｔｈｅｗａｙｏｆｃｈｏｏｓｉｎｇｐｒｅｄｉｃｔｉｏｎｍｅｔｈｏｄｉｓｒａｔｅｄｉｓｔｏｒｔｉｏｎｏｐｔｉｍｉ

4、ｚａｔｉｏｎｏｒｕｓｉｎｇｃｏｒｒｅｌａｔｉｏｎｐｒｏｐｅｒｔｉｅｓ．Ｆｏｒｃｏｍｐｌｅｘｉｔｙｐｒｏｂｌｅｍ，ｔｈｅｐａｐｅｒｐｒｏｖｉｄｅｓａｎｉｍｐｒｏｖｅｄｉｎｔｒａｐｒｅｄｉｃｔｉｏｎｍｏｄｅｓｅｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍ．Ｔｈｉｓａｌｇｏｒｉｔｈｍｕｓｅｓａｎｅｗｄｅｔｅｃｔｉｏｎｍｅｔｈｏｄｔｏｄｅｔｅｃｔｔｈｅｐｉｘｅｌｃｏｒｒｅｌａｔｉｏｎｉｎｔｈｅｄｉｒｅｃｔｉｏｎｏｆｍｏｄｅｓｅｌｅｃｔｉｏｎ．Ｔｅｓｔｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅａｌｇｏｒｉｔｈｍｈａｓｒｅｄｕｃｅｄｔｈｅｃｏｍｐｕｔａｔｉｏ

5、ｎａｌｃｏｍｐｌｅｘｉｔｙａｎｄｉｎｃｒｅａｓｅｄｔｈｅｅｎｃｏｄｉｎｇｓｐｅｅｄｈｉｇｈｌｙｉｎｔｈｅｐｒｅｍｉｓｅｏｆｅｎｓｕｒｉｎｇｖｉｄｅｏｑｕａｌｉｔｙ．Ｋｅｙｗｏｒｄｓ：ｍｏｔｉｏｎｅｓｔｉｍａｔｉｏｎ；ｉｎｔｒａｐｒｅｄｉｃｔｉｏｎ；ｒａｔｅｄｉｓｔｏｒｔｉｏｎｏｐｔｉｍｉｚａｔｉｏｎ；ｍｏｄｅｓｅｌｅｃｔｉｏｎ；ｄｉｒｅｃｔｉｏｎｄｅｔｅｃｔｉｏｎ；ｃｏｍｐｕｔａｔｉｏｎａｌｃｏｍｐｌｅｘｉｔｙＨ．２６４／ＡＶＣ［１－２］是由ＩＴＵ－Ｔ和ＩＳＯ／ＩＥＣ共同成立的联合视频组（ＪＶＴ，ｊｏｉｎｔｖｉｄｅｏｔｅａｍ）制

6、定的新一代视频压缩标准，它与以往的标准相比，增加了很多新技术如帧内预测，高精度、多模式的运动估计、基于４×４的整数变换和量化，统一的ＶＬＣ符号编码等等。这些技术的应用使得Ｈ．２６４编码效率高，网络适应性好，成为研究视频压缩领域的首选。然而Ｈ．２６４的帧内预测选择模式很多（对亮度而言，ｉｎｔｒａ４×４有９种预测模式、ｉｎｔｒａ１６×１６有４种预测模式；色度８×８块也有４种预测模式），如果对每种预测模式一一进行预判，无疑会大大增加帧内预测的复杂度［３］，研究快而有效的帧内预测模式选择方法是十分必要的。对于帧内预测模式选择的研究出现过

7、很多经典收稿日期：２０１０－１０－２０基金项目：国家自然科学基金重点资助项目（５１０３５００８）测中的最小ＲＤ＿Ｃｏｓｔ；的算法，都是为减少帧内预测复杂度进行的研究。ＰａｎＦｅｎｇ等［４］曾提出了基于边缘方向直方图的帧内预测模式选择算法；也有人提出过通过对原始图像采样，简化代价函数，降低率失真的计算开销，然后计算最大概率模式从而减少候选模式的方法［５］；还有基于递推模式的帧内预测算法［６］；三步预算法等［７］；基于率失真曾经出现了帧层算法［８］、宏块层算法［９］等等。除此之外也出现了搜索窗算法［１０］、抽样算法［５］等改进的算法

8、。总体来说，可以分为两类：一类是利用像素之间的相关特性，通过减少预测模式来降低复杂度，这类方法目前算法复杂度依然较高，如ＰａｎＦｅｎｇ［４］提出的用Ｓｏｂｅｌ算子对图像做卷积是基于单个像素的边缘方向检测方法，需要对每个像素边缘方向矢量进行计算，计算量非常大，编码