一种HEVC帧内预测模式快速选择算法*

赵　爽　陈敬东　陈　敏

(武汉数字工程研究所　武汉　430205)



一种HEVC帧内预测模式快速选择算法*

赵爽陈敬东陈敏

(武汉数字工程研究所武汉430205)

针对H.265/HEVC帧内预测模式选择算法编码耗时较长,提出一种帧内预测模式快速选择算法,通过减少参与帧内预测的模式数量,缩短编码时间。实验结果表明,在全帧内、低复杂度编码模式下,提出的算法与H.265/HEVC官方测试模型HM16.0相比,编码时间平均减少22.35%,码率(BR)增加1.623%,峰值信噪比(PSNR)降低0.081dB。

视频编码; H.265/HEVC; 帧内预测

Class NumberTP309.1

1　引言

随着互联网技术和网络视频处理技术的发展,视频应用日益多样化和高清化的趋势,对视频压缩性能提出了更高的要求,为此,联合视频编码组(Joint Collaborative Team on video Coding,JCT-VC)制定了新一代视频编码标准H.265/ HEVC。H.265/HEVC在采用H.264/AVC混合视频编码框架的基础上,引入了新的编码技术,例如基于四叉树的块划分、35种帧内预测模式、自适应运动矢量预测、像素自适应补偿等。新技术的引入,使H.265/HEVC的压缩效率相比于H.264/AVC提高了近一倍,但是算法的计算复杂度也大幅增加。如何在保证视频质量的前提下有效地减少编码时间,已成为H.265/HEVC算法研究中的一个研究热点。

帧内预测编码是视频编码的一个重要组成部分,其编码性能直接影响了整个视频的编码性能[1]。为提高预测精度,H.265/HEVC帧内预测引入了35种预测模式,但同时也增加了编码过程的计算量和编码时间。

为了降低H.265/HEVC标准的帧内预测编码算法的复杂度、缩短编码时间,本文提出一种帧内预测模式快速选择算法,通过减少执行率失真优化的预测模式数目的方法,一定程度提高编码效率。

2　HEVC帧内预测算法

2.1HEVC帧内预测模式

H.265/HEVC帧内预测引入了35种预测模式,包括平面模式(Planar Mode)、DC模式(DC Mode)以及33种角度模式(Angular Mode)。

1) 平面模式

平面模式使用水平和垂直方向的两个线性滤波器,并将二者的平均值作为当前块像素的预测值。这种模式能够使预测像素平缓变化,与其他模式相比能够提升视频的主观质量。平面模式适用于像素值缓慢变化的区域[2]。

2) DC模式

DC模式[3]适用于大面积平坦区域,当前块的预测值可由其左侧和上方参考像素的平均值得到。

3) 角度模式

图1给出了H.265/HEVC帧内预测的33种角度模式的预测方向,包括其编号和预测方向。平面模式和DC模式未包含在图中。

图1　33种角度模式的预测方向

2.2HEVC帧内预测率失真优化

当前官方测试模型HM16.0编码器在帧内预测编码步骤如下：

1) 判断当前预测块相邻参考像素是否可用并做相应处理；

2) 对参考像素进行滤波；

3) 根据滤波后的参考像素计算当前预测块的像素值。

其中,确定最佳帧内预测模式采用的是粗选择帧内预测模式选择算法[4],步骤如下：

1) 遍历所有的35种预测模式,得到采用每种预测模式时的残差信号[5],再对残差信号利用式(1)进行沃尔什-哈达玛变换[6](Walsh-Hadamard Transform,WHT)计算SATD值。设残差信号方阵为X,SATD为

(1)

其中M为方阵的大小,H为归一化的M×MHadamard矩阵[7]；

2) 按式(2)计算每种预测模式的率失真代价。

J=D(Mode)+λModeR(Mode)

(2)

其中D(Mode)为SATD值、R(Mode)为该帧内预测模式所需的编码比特数。选取率失真代价最小的几种模式为最可能预测的模式集。

3) 将已编码相邻块的预测模式补充到最可能预测模式集,遍历最可能预测模式集中的所有预测模式,并对残差信号进行编码,计算各模式下的率失真代价,选取率失真代价最小的预测模式作为最优帧内预测模式。

3　帧内预测模式快速选择算法

3.1帧内预测算法优化方向

为降低帧内预测模式选择的复杂度,HM16.0利用沃尔什-哈达玛变换的方法计算率失真代价,这种方法虽然在一定程度上减小了计算复杂度,但HM16.0采用的粗选择帧内预测模式选择算法需要遍历所有的预测模式,分别计算其率失真代价,再根据计算结果选择最优预测模式。

H.265/HEVC帧内预测模式有35种之多,远大于H.264/AVC所使用的帧内模式数量[8]。帧内预测模式的增加,在满足高清晰度视频编码需求的同时,提高了帧内预测编码在整个编码框架中所占的比重,也进一步增加了编码过程的计算量。

因此,在帧内编码峰值信噪比(Peak Signal to Noise Ratio,PSNR)没有明显降低的情况下,通过减少参与率失真代价计算的帧内预测模式数量,可以减少帧内预测编码时间,从而在保证帧内预测编码性能的前提下,提高编码效率。

3.2帧内预测模式快速选择算法设计

本算法将35种模式分成若干类,在帧内预测模式选择过程中,按类依次搜索选择最优预测模式。帧内预测模式快速选择算法流程图如下。

图2　帧内预测模式快速选择算法流程图

算法具体步骤如下：

1) 编码参考帧图像

按照HM16.0中帧内预测算法对参考帧图像进行帧内预测编码。参考帧图像帧内预测编码流程图如下。

图3　参考帧图像帧内预测编码流程图

计算参考帧图像使用最佳预测模式时的平均率失真代价,记为minJ1。将minJ1作为下一帧图像的率失真优化参考。

2) 编码下一帧图像

下一帧图像帧内预测编码流程图如下。

图4　下一帧图像帧内预测编码流程图

将35种帧内预测模式分为Ⅰ、Ⅱ、Ⅲ、Ⅳ三类,模式0～9为第I类,模式10～17为第Ⅱ类,模式18～25为第Ⅲ类,剩下的为第Ⅳ类。

对尺寸大小为8×8、16×16、32×32的预测块先按第Ⅰ类的几种预测模式进行帧内预测的算法搜索。将预测块在不同预测模式下产生的率失真代价与minJ1进行比较,选择率失真代价小于minJ1且失真代价最小的预测模式作为最佳帧内预测模式,率失真代价大于minJ1的则放弃。

如果第Ⅰ类中没有率失真代价小于minJ1的预测模式,那么对预测块按第Ⅱ类中的几种预测模式进行帧内预测的算法搜索,找到率失真代价小于minJ1的帧内预测模式。

如果第Ⅱ类中也没有率失真代价小于minJ1的预测模式,那么对预测块按第Ⅲ类、第Ⅳ类中的预测模式进行帧内预测的算法搜索,直到找到率失真代价小于minJ1的帧内预测模式为止。

如果35种预测模式中没有率失真代价小于minJ1的预测模式,那么选取35种预测模式中率失真代价最小的预测模式作为最佳帧内预测模式。

3) 计算在最佳预测模式下,前两帧图像的平均率失真代价,记为minJ2,作为下一帧图像帧内预测的率失真优化参考。以此类推,参考前n帧图像在最佳帧内预测模式下的平均率失真代价minJn,对第n+1帧图像进行帧内预测编码。

4) 参考人眼视觉暂留时值,每编码20帧图像后,将下一帧图像重新作为参考帧,按照HEVC标准算法进行帧内预测编码。

5) 以此类推,进行剩下视频帧的帧内预测编码。

4　实验结果与分析

4.1实验内容

使用PC机对测试模型HM16.0的帧内预测算法和改进后的算法进行对比测试,PC机的CPU型号为Intel(R)Core(TM)i3-4150 CPU @ 3.5GHz,内存容量为4.00GB。

以官方测试序列Traffic为例,使用全帧内、低复杂度测试条件,对帧内预测模式快速选择算法进行测试。为便于观察,选取视频图像相同帧相同区域的局部放大图像进行对比。图5为原始视频图像,图6为HM16.0的实验结果图像,图7为改进后编码器的实验结果图像。

图6和图7中字母的清晰度饱和度略低于图3中字母,说明经H.265/HEVC编解码后得到的视频较原始视频有一定失真。人眼几乎辨别不出图6和图7中字母图像的差异,说明改进后的帧内预测算法是可行的。

图5　原始视频图像的局部放大

图6　HM16.0的实验结果图像

图7　改进后编码器的实验结果图像

4.2实验结果与分析

本文选取部分测试序列,在全帧内,低复杂度编码模式测试条件下,通过实验对比改进后的帧内预测算法与HM16.0中帧内预测算法的性能差异。

BD-PSNR[9]表示在相同码率下,两种算法峰值信噪比变化情况。BD-Rate[9]表示在相同峰值信噪比下,两种算法之间码率变化情况。BD-PSNR、BD-Rate使用文献[9]中的方法获取。ATS计算方式如式(3)所示:

(3)

RD曲线是指对于选定的视频测试序列,在不同的量化参数下编码后的得到的一组PSNR和码率值,以码率为横轴,PSNR为纵轴得到的二维曲线。PSNR定义为

PSNR值越高,视频质量越高,PSNR值越低,视频质量越低。比较不同编解码标准或算法的编解码性能时,通常使用标准测试序列的RD曲线来衡量其优劣。

表1为24个官方测试视频序列[10]的BD-PSNR、BD-Rate以及ATS的测试结果。通过计算分析表1中数据可知,改进后的帧内预测算法以平均增加1.623%码率的代价,平均减少22.35%的编码时间,峰值信噪比只损失0.081dB。

图8为采用测试序列Traffic,得到的HM16.0帧内预测算法和改进后算法的RD曲线对比图。说明改进后的算法和HM16.0中帧内预测算法编码质量相当。

表1　测试序列实验结果

图8　Traffic测试序列RD曲线

5　结语

本文提出了一种帧内预测模式快速选择算法,实验结果表明,改进后的算法比HM16.0的编码时间减少22.35%,而码率只增加1.623%,编码效率有所提高。后续可从编码单元划分方式和率失真优化方法等方面进一步研究,以期获得更理想的效果。

[1] Piao Y,Min J,Chen J. Encoder improvement of unified intra prediction[R].In:JCTVC-C207,Guangzhou,OCtober,2010.

[2] Motra A S,Gupta A,Shukla M,et al.Fast intra mode decision for HEVC video encoder[C] //Software,Telecommunications and Computer Networks,2012 20th International Conference on.IEEE,2012:1-5.

[3] Cheng C C,Chang T S.Fast three step intra prediction algorithm for 4×4 blocks in H.264[C]//IEEE International Symposium on Circuits and Systems,2005:1509-1512.

[4] WangJ C,Wang J F,Yang J F,et al. A fast mode decision algorithm and its VLSI design for H.264/AVC intra-prediction[J]. IEEE Transactions on Circuits and Systems for Video Technology,2007,17(10):1414-1422.[5] Jiang W,Ma H,Chen Y.Gradient based fast mode decision algorithm for intra prediction in HEVC[C]//2012 2nd International Conferenceon Consumer Electronics,Communications and Networks(CECNet),2012:1836-1840.

[6] Chen G,Liu Z,Ikenaga T,et al.Fast HEVC intra mode decision using matching edge detector and kernel density estimation alike histogram generation[C]//2013 IEEE InternationalSymposium on Circuits and Systems(ISCAS),2013,53-56.

[7] Kim J,Choe Y,Kim Y G.Fast Coding Unit size decision algorithm for intra coding in HEVC[C]//2013 IEEE International Conference on Consumer Electronics (ICCE),2013:637-638.

[8] GolamSarwer M,Po L M,Jonathan Wu Q M. Fast sum of absolute transformed difference based 4×4 intra-mode decision of H.264/AVC video coding standard[J]. Signal Processing:Image Communication,2008,23(8):571-580.

[9] Meeting report of the 10th meeting of the Joint Collaborative Team on Video Coding[R]. Stockholm,SE,11-20 July 2012.

[10] Meeting report of the 10th meeting of the Joint Collaborative Team on Video Coding[R]. Stockholm,SE,11-20 July 2012.

A Fast Intra Prediction Mode Decision Algorithm for HEVC

ZHAO ShuangCHEN JingdongCHEN Min

(Wuhan Digital Engineering Institute, Wuhan430205)

In order to reduce the encoding time cost in the H.265/HEVC intra prediction mode selection algorithm,a fast intra prediction mode selection algorithm is proposed,by reducing the number of models to participate in intra prediction and shorten the encoding time. Experimental results show that,in full frame,low complexity of coding mode,compared with the H.265/HEVC official test model HM16.0,the proposed algorithm saves 22.35% on average in time for intra-coding,and the bit rate increases 1.623%,the PSNR decreases 0.081dB.

video encoding, H.265/HEVC, intra prediction

2016年4月3日,

2016年5月21日

赵爽，女，硕士研究生，研究方向：现代通信与智能信息处理技术。

TN919.81

10.3969/j.issn.1672-9722.2016.10.027