一种基于HEVC帧内预测模式快速选择算法

袁国良，陈 慧

(上海海事大学 信息工程学院，上海 201306)

一种基于HEVC帧内预测模式快速选择算法

袁国良，陈 慧

(上海海事大学 信息工程学院，上海 201306)

在保证编码性能前提下减少帧内编码复杂度是当前研究的热点。因此一种帧内预测模式快速选择算法被提出。首先基于边缘方向强度，将帧内预测模式按照基本方向进行初筛，然后结合累积梯度和最终确定帧内预测模式，从而降低了率失真优化所带来的计算复杂度。实验结果表明，整体编码时间相对于参考算法减少大约20%～25%。

HEVC；帧内预测；率失真性能；方向强度

0 引言

2013年1月25日，国际电信联盟ITU正式宣布推出新一代视频编解码标准ITU-T H.265 / ISO/IEC 23008-2。H.265又名HEVC(High Efficiency Video Coding)，基于ITU-T H.264 / MPEG-4 AVC标准，由ITU与MPEG两大组织合作开发，提供了更加灵活、可靠和稳定的视频解决方案。HEVC继承了H.264/AVC基于块的混合编码结构，同时对一些技术作了改进，其中包括灵活的编码块结构、采样点自适应偏移、自适应环路滤波、并行化设计等技术。在保证视频编码性能的同时，降低编码计算复杂度、节省编码时间是当前视频编码领域的研究热点。

针对这一研究热点，国内外学者提出了大量的帧内预测模式快速算法。文献[1]通过Sobel算子获得图像的边缘方向信息,并以此为依据确定相应的最优、次优预测模式,有效减少了候选模式数。文献[2]提出了一种基于边缘方向强度检测的快速帧内预测模式决策算法，将35种预测模式按方向强度减少为11种。上述的几种算法都只是从减少帧内预测模式数量的角度进行性能优化的。本文进一步引入累积梯度和，从而减少了耗时的率失真代价计算过程，达到了降低整体帧内预测计算复杂度的目的。

1 本文提出的算法

1.1帧内预测模式

帧内预测技术是利用相邻像素之间的空间相关性对当前编码块进行预测的一种编码技术，能够有效地去除空间冗余信息。在H.264视频编码标准中，帧内预测模式采用的是16×16和4×4两种预测模式，且分别只有9种和4种预测方向。而在HEVC 视频标准中，为了能够提供更精确的预测并提高帧内预测的编码效率，增加了多种帧内预测模式，分别包括33种角度预测模式、DC模式以及平面(planar)模式。各模式的编号[3]如图1所示。

图1 帧内预测模式编号

1.2预测模式的分组划分

由于帧内预测模式与视频图像块内的边缘方向是密切相关的，因此可以将33种角度预测模式根据边界方向划分为4类，每类包含9种角度预测模式[4],如表1所示。

表1 预测模式分类

接下来利用边界方向强度来为当前待编码块选定边界方向。

1.3边界方向的选定

由于PU块的纹理方向与预测模式方向具有相似性[5]。因此，可以计算出各PU块的纹理方向来确定最终的预测方向。边界方向强度可以很好地体现图像块的纹理方向，其算法过程如下：

首先将4×4的PU块划分成4个2×2的块，每个子块灰度值可以用其中包含的4个像素的平均值Sxy表示[6]。计算过程如式(1)：

(1)

其中：p()表示4×4 PU块的各像素值。

每个方向角度分组的边界方向强度的计算[7]依次如下：

E0=|(S00+S11)/2-(S01+S10)/2|

(2)

Eπ/4=max{|S00-(S01+S10+S11)/3|,

|S11-(S00+S10+S01)/3|}

(3)

Eπ/2=|(S00+S10)/2-(S01+S11)/2|

(4)

E3π/4=max{|S01-(S00+S10+S11)/3|,

|S10-(S00+S01+S11)/3|}

(5)

分别计算4个方向角度分组的边界方向强度值，最大值所对应的方向角度分组即为选定的模式分组。

经上述计算过程后，将候选预测模式从35种减少到11种，本文接下来采用累积梯度和的方法进一步确定最终预测模式。

1.4最终预测模式的选定

根据待编码原始块的方向性，与待编码原始块有相同方向的预测模式则有可能是最优预测模式[8]。本文中，首先通过计算每个预测方向上的累计梯度和来判断原始块的方向。

dxij=pi-1, j+1+2pi,j+1+pi+1,j+1-pi-1,j-1-2pi,j-1-pi+1,j-1

(6)

dyij=pi+1,j-1+2pi+1,j+pi+1,j+1-pi-1,j-1-2pi-1,j-pi-1,j+1

(7)

(8)

(9)

表2 帧内预测模式的角度区间

通过查表来确定各个像素的预测方向，然后根据式(8)分别计算每个像素的梯度，并根据查表结果计算每个预测方向上像素的梯度和，称为累积梯度和AGM。如式(10)所示：

(10)

其中，M表示1.3节中选定的11种预测方向。在计算过程中可能会出现预测方向不在上述的11种之内，这种预测方向将不予计算在内。

接下来，计算每个预测方向模式对应预测块的SATD值，计算方法如式(11)所示：

(11)

其中M为方阵的大小，X为预测模式对应的预测块，H为归一化的M×MHadamard矩阵。

通常情况下，SATD值越小，AGM越大，其对应的预测方向越接近实际的预测方向。因此，本文利用SATD值与累积梯度和来联合确定最终的预测模式。定义S为某个预测模式对应预测块的SATD值与整体11种预测模式的SATD值总和的比，G为某个预测模式的累积梯度和的倒数与整体11种预测模式的倒数和的比。如式(12)所示：

(12)

其中k、j的取值为所对应的预测方向模式。由式(12)可以看出Sj正比于SATD,Gj反比于AGM。进而定义一个特征向量fj=[Sj,Gj]T,计算特征向量的欧几里得范数。如式(13)所示：

(13)

其中fj=(Sj,Gj)T。则范数越小，对应的预测模式为最可能的预测模式。

1.5本文算法流程

根据前面的分析，本文算法的具体流程如下：

(1)首先根据1.2节所描述的先将预测模式按边界方向划分为4组。

(2)然后通过边界强度的计算(见1.3节)来确定边界方向，将预测方向从35种减少到11种。

(3)根据1.4节所述，首先通过式(10)计算出累积梯度和，通过式(11)计算对应预测块的SATD值。

(4)根据式(12)与式(13)的计算结果来选定最佳的预测模式。

2 实验平台与仿真结果分析

仿真采用的是HM10.0代码，实验平台为CPU 2.4 GHz Intel Core i5、内存6 GB、操作系统为Windows 7的32位计算机，运行环境是Microsoft Visual Studio 2010，分别在QP值为28、32、36三种情况下对5组视频序列进行测试，各

序列的分辨率如表3所示。

表3 5组视频序列分辨率测试结果

对每个序列的前50帧进行编码。比较编码效率的参数指标有PSNR增量(ΔPSNR)，码率增量(ΔBitrate)和编码时间(ΔTime)，计算公式如下：

从表4中可以看出，本文算法和文献[8]算法相对于HM10.0，在保证率失真性能没有明显下降的前提下，整体编码时间都大大缩短。本文算法相比于文献[8]，由于采用了SATD值与累积梯度和来联合确定最终的预测模式，避免了率失真优化过程带来的高计算复杂度，因此编码时间进一步减少，与HM10.0相比降低了大约15%～23%。

表4 实验结果

3 结束语

本文首先将35种预测模式按方向进行分类，根据边界方向强度将预测模式限定在11种以内，在此基础之上利用SATD与累积梯度和来联合确定最优帧内预测模式，省去了对预测模式的率失真优化(RDO-Cost)计算，从而降低了视频编码的计算复杂度。仿真结果表明，在确保率失真性能的条件下，大大减少了编码时间。

[1] 王嵩,王青,薛全. 帧内预测的模式选择快速算法研究及其实现[J]. 浙江理工大学学报, 2005,22(1)：57-60.

[2] 雷海军，危雄，杨张，等.一种快速HEVC帧内预测模式决策算法[J].计算机工程，2014，40(5)：270-273.

[3] SULLIVAN G J, OHM J R, HAN W J, et al. Overview of the high efficiency video coding(HEVC) standard[J]. IEEE Trans. Circuits Syst. Video Technol., 2012, 22(12): 1649-1668.

[4] 赵晓燕,李金良.一种用于H.264的快速帧内预测模式判别方法[J].计算机工程与设计, 2005，26(4): 1031-1035.

[5] 揭月馨, 刘浩, 王登程，等.基于SATD准则的HEVC快速帧内预测算法[J].计算机工程与应用，2016,52(11):185-189.

[6] LAINEMA J, BOSSEN F, HAN W J, et al. Intra coding of the HEVC standard[J]. IEEE Transactionson Circuits and Systems for Video Technology, 2012, 22(12): 1792-1801.

[7] AHMED N, NATARAJAN T, RAO K R. Discrete cosine transform[J]. IEEE Transactions on Computers, 1974, 23(1): 90-93.

[8] CHANG K, MEN A D, ZHANG W H. Fast intra-prediction mode decision for H.264/AVC[J].ISECS International Colloquium on Computing, Communication, Control and Management, 2009, 3(14): 69-73.

A fast-intra prediction mode selection algorithm based on HEVC

Yuan Guoliang, Chen Hui

(College of Information Engineering, Shanghai Maritime University, Shanghai 201306, China)

In the premise of ensuring encoding performance, reducing intra-frame coding complexity is a current research focus. This paper presents a fast intra prediction mode selection algorithm. Based on edge directional strength, the intra-prediction mode is screened in accordance with the basic direction of the prediction modes. Then, combined with the accumulated gradient to finalize the intra-prediction mode, which reduces the computational complexity caused by rate distortion optimization. Experimental results show that the overall encoding time reduces by about 20% to 25% compared with the reference algorithm.

HEVC; intra prediction; rate distortion performance; direction of strength

TN919.81

A

10.19358/j.issn.1674- 7720.2017.19.015

袁国良，陈慧.一种基于HEVC帧内预测模式快速选择算法[J].微型机与应用，2017,36(19)：52-54，61.

2017-03-07)

袁国良(1965-)，男，硕士，副教授，硕士研究生导师，主要研究方向：视频压缩编码及多媒体通信。陈慧(1991-)，通信作者，女，硕士，主要研究方向：视频压缩编码及多媒体通信。E-mail：630998214@qq.com。