基于率失真优化的HEVC帧内编码模式选择

乔莉 李博 刘伟杰

摘 要： 针对高压缩率的视频编码算法产生的视频失真，引起视频感知效果下降的问题，提出一种基于率失真优化（RDO）的HEVC编码模式选择。HEVC的帧内预测模式采用基于块的多方向帧内预测方式，具有高达35种预测模式的帧内预测算法。在此使用率失真优化方法在众多的编码模式中选择出一种最优的模式，使得编码失真最小且编码输出码率最低。实验结果表明，基于率失真优化的HEVC帧内编码模式选择可以降低38.76%的编码复杂度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。

关键词： HEVC; 帧内编码模式选择; 拉格朗日代价; 率失真优化; 最优模式; 编码复杂度

中图分类号： TN919.8?34 文献标识码： A 文章编号： 1004?373X（2018）12?0087?05

Abstract： As the video coding algorithm with high compression rate has the video distortion problem and causes reduction of video perception effect， an HEVC coding mode selection based on rate distortion optimization （RDO） is proposed. In the HEVC intraframe prediction mode， the block?based multi?direction intraframe prediction method and an intraframe prediction algorithm with up to 35 prediction modes are adopted. The RDO method is adopted to select an optimal mode from various coding modes to minimize the distortion and output code rate of coding. The experimental results show that the HEVC intraframe coding mode selection based on RDO can reduce coding complexity by 38.76%， increase bit rate by 0.834%， and decrease peak signal?to?noise ratio （PSNR） by 0.043 dB.

Keywords： HEVC; intraframe coding mode selection; Lagrange price; RDO; optimal mode; coding complexity

0 引 言

在大数据信息时代，随着视频技术的发展和应用，海量的视频信息深入到人们的工作和生活的方方面面中。随着高清（HD）、超高清（UHD）、3D和多视点（Multi?View）视频的普及，针对海量视频数据的传输和存储，需要有高效的视频编码方法来解决这一问题。

2013年由国际电信组织（International Telecommunication Union，IUT）和运动图像专家组（Moving Picture Experts Group，MPEG）联合成立的JCT?VC（Joint Collaborative Team?Video Coding）组织提出新一代高效视频编码标准（High Efficiency Video Coding，HEVC）[1]。HEVC包含着最新的视频编码技术，比上一代H.264/AVC在同样的编码质量下，码率[2]能够节约50%以上。高压缩比、低码率和特有的并行处理设计等优点，使得HEVC快速在各类视频业务中获得广泛应用。

人类通过视觉获取大部分信息，图像和视频是信息最重要的载体。数字视频（Digital Video）是由一系列静止图像构成，通过一帧帧快速播放的方式为用户呈现出一个动态场景。但是海量的视频所携带的数据量是非常庞大的，例如，分辨率为1 920×1 080的高清视频，它的帧率为30 f/s。若一个像素值用8个比特数来表示，则亮度分量对应的码率约为1 920×1 080×30×8≈498 Mbit/s，这么大的数据量造成传输网络和存储介质难以承受。因此，HEVC有效的视频压缩或编码技术在多媒体应用方面，变得尤为重要。

视频编码的性能基本取决编码码率、压缩失真和计算复杂度这三个因素。视频编码的根本任务就是在这三者之间折中选择和优化设计。在相同的计算复杂度下，率失真定理决定了码率和失真的关系。基于率失真优化的HEVC编码模式选择主要是通过使用率失真优化方法在众多的编码模式中，选择出一种最优的模式，使得编码失真最小且编码输出码率最低。

实验结果表明，基于率失真优化的HEVC帧内编码模式选择可以降低38.76%的编码复杂度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。

1 视频编码中的率失真优化

香农在1959年发表的“保真度准则下的离散信源编码定理”[3]，如下。

定理1 保真度准则下信源编码定理。

设[RD]是离散无记忆平稳信源的信息率失真函数，并且有有限的失真测度。对于任意的允许失真度[D≥0]和任意小的正数[ε>0，δ>0]，当信源序列长度[l]足够长，一定存在一种信源编码[C]，其码字个数为：

4 结 语

HEVC视频编码比H.264仅用一半的比特率能传送相同质量的视频，编码效率也提高了一倍以上，但其解码复杂度也增加了很多，如何提高压缩比、减少失真度、减少编码率具有重要的研究意义。

HEVC的CTU可以划分为CU，CU在预测编码时划分为PU，在量化编码时划分为TU，率失真优化可以应用于CTU级、CU级、PU级、TU级等。本文重点研究的是在帧内编码中的率失真优化，基于率失真优化的HEVC帧内编码模式选择可以降低38.76%的编码复杂度，比特率增加0.834%，峰值信噪比（PSNR）下降0.043 dB。以后将进一步研究在其他级别中的率失真优化，使得HEVC能具有更高的压缩比、更少的失真、更少的编码率、更快的传输率以及更便捷快速的存储。

注：本文通讯作者为李博。

参考文献

[1] SULLIVAN G J， OHM J， HAN W J， et al. Overview of the high efficiency video coding （HEVC） standard [J]. IEEE transaction on circuits and systems for video technology， 2013， 22（12）： 1649?1668.

[2] 姚路欢，何小海，吴晓红，等.基于梯度的HEVC帧内码率控制算法[J].科学技术与工程，2016，16（8）：206?211.

YAO Luhuan， HE Xiaohai， WU Xiaohong， et al. An intra frame rate control algorithm based on gradient for HEVC [J]. Science technology and engineering， 2016， 16（8）： 206?211.

[3] SHANNON C E. Coding theorems for a discrete source with a fidelity criterion [J]. IRE national convention record， 1959， 7： 142?163.

[4] 万帅，杨付正.新一代高效视频编码H.265/HEVC：原理、标准与实现[M].北京：电子工业出版社，2014：327?342.

WAN Shuai， YANG Fuzheng. The principle， standard and implementation of a new generation of high?efficiency video coding H.265/HEVC [M]. Beijing： Publishing House of Electronics Industry， 2014： 327?342.

[5] 邱春婷，齐静.高效视频编码（HEVC）帧内预测块尺度的快速选择方法[J].科学技术与工程，2014，14（18）：64?67.

QIU Chunting， QI Jing. Fast selection method for HEVC intra prediction block size [J]. Science technology and engineering， 2014， 14（18）： 64?67.

[6] 朱秀昌，刘峰，胡栋.H.265/HEVC视频编码新标准及其扩展[M].北京：电子工业出版社，2016.

ZHU Xiuchang， LIU Feng， HU Dong. New standards and extensions of H.265/HEVC video coding [M]. Beijing： Publishing House of Electronics Industry， 2016.

[7] JAMALI M， COULOMBE S， CARON F. Fast HEVC intra mode decision based on edge detection and SATD costs classification [C]// Proceedings of Data Compression Conference. Snowbird： IEEE， 2015： 43?52.

[8] TING Y C， CHANG T S. Gradient?based PU size selection for HEVC intra prediction [C]// Proceedings of IEEE International Symposium on Circuits and Systems. Melbourne： IEEE， 2014： 1929?1932.

[9] 陈先义，赵利平，林涛.一种新的用于屏幕图像编码的HEVC帧内模式[J].电子与信息学报，2015，37（11）：2685?2690.

CHEN Xianyi， ZHAO Liping， LIN Tao. A new HEVC intra mode for screen content coding [J]. Journal of electronics & information technology， 2015， 37（11）： 2685?2690.

[10] KIM Y， JUN D S， JUNG S， et al. A fast intra?prediction method in HEVC using rate?distortion estimation based on Hadamard transform [J]. ETRI journal， 2013， 35（2）： 270?280.

[11] ZHANG H， MA Z. Early termination schemes for fast intra mode decision in high efficiency video coding [C]// Proceedings of IEEE International Symposium on Circuits and Systems. Beijing： IEEE， 2013： 45?48.