基于小波变换的新型帧内模式预测快速选择算法

罗国成，余彪，刘进，王家友

(南京航空航天大学 电子信息工程学院，江苏 南京210016)

H.264/AVC视频编码系统的复杂度主要集中在帧内预测和帧间预测两部分，帧内预测编码的复杂度主要集中在最佳预测模式选择部分。随着信息技术的发展，虽然帧内预测编码技术取得了长足的进步，但与帧间预测编码技术的研究相比，发展相对较慢，仍有很大的发展空间。对整个H.264/AVC视频编码系统而言，降低帧内预测编码的复杂度有助于大幅降低H.264/AVC编码器的复杂度。因此，研究帧内预测编码快速算法具有重要的现实意义和实用价值[1-2]。

H.264/AVC视频编码标准中，帧内预测模式执行以基于方向为主的预测模式，尤其是在4×4亮度块的9种预测模式中，有8种是方向预测。在编码过程中，如果选择了某一方向为主要的预测模式，那么就表示该编码块的纹理方向具有与所选预测模式相同的方向。基于这样的思想，Pan等[3-4]提出了一种基于边缘方向直方图的帧内模式预测快速选择算法，该算法首先用Sobel算子把每个像素点的边缘方向矢量求出来，然后利用得到的边缘方向矢量求出每一个宏块的边缘方向直方图，最后依据边缘方向直方图的分布选择出可能性最大的几个预测模式作为候选模式,从而降低帧内预测的计算复杂度。在Pan方案中，不管块的方向性是否都明显采用了直流DC(Direct Current)模式，其没有最大限度地降低帧内预测的计算复杂度，存在改进的余地。参考文献[5]和参考文献[6]都对Pan的基于边缘方向直方图的快速算法进行了改进，但压缩比提高的同时，运算量不免增大。

本文提出了一种基于小波变换的新型帧内模式预测快速选择算法，利用小波变换后的低频子图结合改进后的Pan算法作帧内模式预测选择，由此预判断宏块中每个4×4子块可能的预测模式。实验结果表明,与未使用快速算法及Pan算法相比，该算法在保证了视频编码质量的同时，H.264/AVC帧内编码速度得到显著提高。

1 H.264/AVC的帧内预测模式

在H.264/AVC标准中，帧内预测分为亮度分量和色度分量帧内预测两类。其中亮度分量又分成两种，一种是Intra 4×4亮度块的预测，共包括9种预测模式，其中包括一种DC模式和8种具有方向性的预测模式；还包含一种预测，共有4种预测模式，分别称为垂直预测模式、水平预测模式、均值预测模式和平面预测模式，Intra 16×16较适用于编码图像中的平滑区域。色度分量的预测模式是Intra 8×8，有与Intra 16×16基本相同的4种预测模式[7]。而用全搜索算法找到一个16×16宏块的最优帧内预测模式需要进行(9×16+4)×4=592次计算,计算量非常大。

2 基于小波变换的Pan算法改进算法

由于帧内预测的各个模式具有很强的方向性，并且最佳模式和次最佳模式往往具有类似的预测方向，即最佳模式和次最佳模式在预测方向图上通常是相邻的，因此,利用边缘方向矢量直方图的方法来进行帧内预测算法的改进，决定对当前块模式的选择。在直方图中，令最大值和次最大值分别代表预测时的最佳模式和次最佳模式。当二者相差不大且相邻时，说明图像的纹理对应的是最大值及其相邻值对应的预测模式；当二者相差不大但不相邻时，说明图像块的纹理混乱，可以直接采用DC模式来预测;当二者相差较大时，说明当前块的主要纹理方向一定是最大值对应的方向，这时可以直接采用最大值的预测模式。为衡量最大值与次最大值的差值，本文引入一个阈值M。当最大值大于M次最大值时，二者相差足够大。在得到最佳模式、次最佳模式和最可能模式以后，通过比较最大值与次最大值就能选择出最终的预测模式。

改进后的帧内4×4块预测算法流程图如图1所示。在完成4×4亮度块模式选择后，继续对16×16块计算每个点点额边缘矢量强度和方向，然后建立边缘方向矢量直方图并得到最大值模式，预测最大值模式与DC模式。色度块预测与之类似。算法中设定阈值M=3。

图1 改进的帧内4×4亮度块模式选择算法流程图

3 实验结果及分析

在H.264/AVC标准模型JM10.1中进行实验仿真，测试序列为两个纹理复杂度不同的CIF标准序列Foreman序列和Football序列。并且在不同量化参数QP下将本文方法与全搜索方法及Pan方法进行比较。其中Bitrate代表编码位率，PSNR代表亮度分量Y的峰值信噪比。实验时编码码流为30帧/s,实验结果如表1和表2所示。

表1 Foreman序列实验结果

表2 Football序列实验结果

由表1和表2可以看出，本文算法与全搜索及Pan方法相比，在提高了模式选择算法速度、节省编码时间的同时，基本保持了PSNR，且比特率增长不大。这是由于本文首先用小波变换将图像分解，只在低频子带进行模式选择，降低了搜索范围，同时在搜索时设置了一个阈值，将不符合要求的模式排除,大大降低了运算量。

图2和图3分别为QP=25时Foreman第95帧和Football第34帧编码后的效果图。从主观上看，本文方法能够保证图像质量。

本文主要研究了基于小波变换的新型H.264/AVC的帧内模式预测快速选择算法。本文改进的方向是缩小预测模式的搜索范围，根据当前块与相邻像素的特征排除可能性小的预测模式，减少代价函数的计算量，从而达到优化的目的。本文在边缘矢量方向直方图算法的基础作了改进，通过比较最佳模式、次最佳模式与最可能模式来进行帧内预测的模式选择。与Pan算法相比，本文算法在保证视频图像PSNR的同时，能够大幅度降低模式选择的个数，提高编码效率。但该算法在边缘矢量的计算上复杂度较大，在后面的工作中，可以更多地使用一些先进知识来进一步降低模式选择的计算复杂度，提高编码效率。

图2 在QP=25时对Foreman第95帧编码的效果图

图3 在QP=25时对Football第34帧编码的效果图

[1]ITU-T Rec H.264/ISO/IEC 14496-10 JVT-G050∶Final draft international standard of joint video specification[S].JVT,2005.

[2]WIEGAND T,SULLIVAN G,BJNTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits and Systems for Video Technology,2003,13(7)∶560-576.

[3]PAN F,LIN X,RAHARDJA S,et al.A directional field based fast intra mode decision algorithm for H.264 video coding[C].2004 IEEE International Conference on Multimedia and Expo,ICME′04,Singapore,2004∶1147-1150.

[4]ELYOUSFI A,TAMTAOUI A,BOUYAKHF EL H.Fast mode decision algorithm for intra prediction in H.264/AVC video coding[J].International Journal of Computer Science and Network Security,2007,7(1)∶356-364.

[5]李世平,蒋刚毅,郁梅.快速帧内预测模式选择新方法[J].电子学报,2006,34(1)∶141-146.

[6]邵娟,张卫宁,魏磊,等.AVS中帧内预测模式的快速选择策略[J].计算机工程与应用,2009,45(25)∶163-65.

[7]WIEGANG T,SULIVAN G.BJONTEGAARD G,et al.Overview of the H.264/AVC video coding standard[J].IEEE Transactions on Circuits System Video Technology,2003,13(7)∶560-576.