h.264的整数dct变换编码与量化过程

《h.264的整数dct变换编码与量化过程》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、文章编号：1009-8119（2005）05-0040-03H.264的整数DCT变换编码与量化过程张晓燕谢珺堂（北京理工大学信息科学技术学院电子工程系，100081）摘要H.264是ITU与ISO联合共同开发的具有高编码效率、高压缩质量的视频新标准。H.264采用了4×4块的无乘法整数变换编码算法，有效地降低了编解码的运算量，且避免了反变换的误匹配问题。本文详细分析了H.264的整数DCT变换的原理和实现，并阐述了与变换编码相应的量化过程。关键词H.264，整数DCT变换，量化TheIntegerDCTTransformandQuantizationinH.264ZhangXiaoya

2、n,XieJuntang(DepartmentofElectronicEngineering,BeijingInstituteofTechnology,Beijing100081)Abstract:H.264isthenewvideocodingstandardestablishedbyITUandISO，whichhashighcodingefficiencyandhighcompressionquality.The4×4transformsinH.264canbecomputedexactlyinintegerarithmeticwithoutmultiplication,thusm

3、inimizingcomputationalcomplexityandavoidinginversetransformmismatchproblems.ThispaperprovidesadetailedanalysisontheprincipleandimplementationoftheintegerDCTtransformandthecorrespondingquantization.Keywords:H.264，IntegerDCT，Quantization1引言新一代视频编码标准H.264是由国际电信联合会(ITU)与国际标准组织(ISO)的联合视频小组(JVT)负责开发，它是

4、面向实际应用的最新发展的标准。其目标是基于高的视频分辨率，提高图像质量，并能够覆盖所有低带宽和高带宽的应用。H.264是在ITU-T增强型多媒体通信标准H.26L基础上推出的能够为ITU-T和ISO/IEC共同使用的单一的新一代视频编码标准，并且在技术上同MPEG标准形成体系。H.264与先前的标准相似，对残差数据采用基于块的变换编码，变换编码可以去除原始图像的空间冗余，使图像能量集中在一小部分系数上，这样可以提高压缩比增强抗干扰能力。而H.264采用的变换是近似DCT的无乘法整数变换，在此我们称它为整数DCT变换。需要注意的是，此处的变换已经不是真正的DCT，仍然称其为DCT变换只是为

5、了说它是由DCT推导而来，且为了和另一个变换(Hadamard变换)相区别。H.264的整数DCT变换中只有整数运算，消除了浮点运算，减少了运算量，并且精确的整数排除了编码器和解码器反变换之间的误匹配问题。2H.264的变换与量化2．1整数DCT变换H.264中的变换编码和以前各种标准中的DCT有所不同，以前标准中直接采用DCT的定义进行变换，会带来两个问题：第一，7需要进行浮点数操作，从而造成系统设计及运算上的复杂性；第二，由于变换核都是无理数，而有限精度的浮点数不可能精确地表示无理数，再加上浮点数的运算可能会引入舍入误差，这就使得在具体实现时会导致编解码的不匹配(mismatch)，

6、即反变换的输出结果和正变换的输入不一致。为了克服这些问题，H.264采用基于4×4块的整数操作而不是实数运算，使得变换操作仅用整数加减和移位操作就可以完成，这样既降低了设计复杂度，又避免了编解码误匹配，能够得到与4×4DCT变化类似的编码效果，而由此带来的编码性能的减少微乎其微。此整数变换中无乘法，采用基于提升结构的无乘法二进制DCT（BinDCT），只包括加法和16位算术移位，这样大大减小了运算复杂度，尤其是对低端处理，减少了乘法运算且保持了整数变换的优点，精确的整数排除了编码器和解码器之间反变换的误匹配，保证了变换的效果。我们可以通过各种公式推导出整数DCT正变换的公式：（1.1）式

7、(1.1)中，虽然乘以1/2的操作可以用右移来实现，但这样会产生截断误差，因此，我们将1/2提到矩阵外面，并与右边的点乘合并，得：（1.2）这就是H.264中所用到的整数变换公式，其变换核仅用加减法(和左移)即可以实现。而后面的点乘操作可以合并到随后的量化过程中去。H.264中所用到的反DCT变换公式如下：(1.3)其中与Y点乘的操作与反量化合并，乘以系数1/2的操作由右移来实现，由于反量化后的结果足够地大，所以这里不会出现截断误差