基于张量秩校正的图像恢复方法
2016-11-30白敏茹黄孝龙顾广泽赵雪莹
白敏茹+黄孝龙+顾广泽+赵雪莹
摘 要:针对医学图像和视频图像的恢复问题,基于张量表示,研究有限样本下的低秩张量数据恢复问题,在张量奇异值分解(t-SVD)理论的基础上,提出了张量秩校正模型和两阶段张量秩校正方法,第一阶段是用张量核范数最小化模型求得预估解,第二阶段,根据预估解,求解张量秩校正模型,获得更高精度的解.构建了求解张量秩校正模型和张量核范数最小化模型的张量近似点算法,使得可以在实数域上对张量直接进行计算,并且从理论上证明了该算法的收敛性.通过对医学图像和视频图像的数值仿真实验,验证了本文所提出模型和方法的有效性,实验结果显示,张量秩校正模型和方法能够取得更高的恢复精度.
关键词:图像恢复;张量奇异值分解;张量秩校正;张量近似点算法
中图分类号:TP751 文献标识码:A
文章编号:1674-2974(2016)10-0148-07
Abstract:Tensor-based restoration of medical images and video images was studied with limited samples. On the basis of the theory of tensor singular value decomposition (t-SVD), a tensor rank-correction model (CRTNN) was proposed to correct the tensor nuclear norm minimization model (TNN). A two-stage rank correction method is given as follows: the first stage is used to generate a pre-estimator by solving the TNN model, and the second stage is to solve the CRTNN model to generate a high-accuracy recovery by the pre-estimator. A tensor proximal point algorithm was proposed to solve the CRTNN model and the TNN model, making it possible to calculate tensor directly in the real field. The convergence of the algorithm was proved in theory. Numerical experiments of medical images and video images verify the efficiency of the proposed model and method. The experiment results show that tensor rank-correction model and method can achieve higher-accuracy recovery.
Key words:image restoration;t-SVD; tensor rank-correction model; tensor proximal point algorithm
随着电子技术和成像技术的发展,从医学图像到遥感图像,从导弹精确制导,到人脸识别及指纹识别再到具有视觉功能的智能机器人,人类活动的方方面面都会产生或涉及到大量的高维图像.高维图像已经成为一种重要的多媒体形式,广泛存在于人们的日常生活中.图像在形成,传输和记录的过程中受多种因素的影响,图像的质量会有所下降,典型表现为色彩模糊和有噪声干扰等.这一降质的过程被称为图像的退化.图像恢复的目的就是尽可能地恢复退化了的高维图像的本来面目.
传统的图像处理方法是基于向量和矩阵的表示形式,往往破坏了这些数据的原始空间结构,在分析过程中不能够很好地刻画这些数据的本质和充分挖掘其内部特性.张量作为向量和矩阵表示的高阶推广,能够更好地表达高阶数据复杂的本质结构,已被广泛应用于计算机视觉与图像、人脸识别、医学图像和统计信号处理等研究领域中[1-6].
高维图像数据往往具有低维属性,张量完备化问题就是利用张量数据的低秩结构,是一种在有限样本或测量数据下最小化张量的秩的优化问题.最小化张量的秩是NP难问题,通常的处理方法有:1)将张量转化成矩阵,然后求解矩阵完备化问题[7];2)用特殊的张量分解方法来分解张量,如CANDECOMP/PARA-FAC(CP)分解,Tucker分解等方法.
由于矩阵的核范数是矩阵秩的紧的凸逼近,因此对矩阵完备化问题的求解一般是将其转化为矩阵核范数最小化问题求解.对矩阵核范数最小化问题的求解有近似点算法(PPA)[8],交替方向方法(ADM),加速近似梯度方法(APG)[9].虽然低秩矩阵完备化问题得到很好发展,但张量完备化问题研究还很不完善.不同于矩阵秩只有一种定义,张量秩有多种定义.传统上主要有两种张量秩的定义,CP秩和Tucker秩,它们分别是基于CP分解和 Tucker分解的.将张量展开成矩阵,利用展开矩阵性质近似逼近张量的秩,是常用的处理方法.例如:Gandy[2]等用各片分别展开矩阵的核范数的和作为张量秩的近似逼近;Liu[5]等进一步将各片分别展开矩阵的核范数通过加权来近似张量的秩,并提出了HaLTRC算法求解该松弛模型(TSN).然而这两种逼近方法并不是张量秩函数的最紧的凸逼近[7].
Kilmer等[10]基于快速傅里叶变换可以将块循环矩阵对角化的思想,提出了张量奇异值分解(T-SVD)方法,使得张量可以在傅里叶变换下实现快速分解.基于T-SVD, Semerci等[6]提出张量核范数概念,对于3阶张量,利用张量核范数近似逼近张量的秩,建立了张量核范数最小化模型(TNN),构建了交替方向方法(ADMM)求解该模型,并应用于多线性数据的图像压缩和恢复,通过对比,TNN逼近比TSN逼近效果更好.但是该文没有给出ADMM方法的收敛性结果,文中的ADMM算法一部分在实数域上计算,一部分在复数域上计算.与以往模型不一样,TNN模型的目标变量是定义在复数域即傅里叶域内的矩阵,约束变量是定义在实数域的.因此,根据这个问题的特点,设计更加有效的具有收敛性的优化算法,是亟需解决的一个问题.另外,文献[11]指出,矩阵核范数在某些情况下不是矩阵秩的最紧凸逼近,如对角元素被高度样本化,则矩阵核范数最小化模型求解低秩恢复问题的能力就会高度弱化,而矩阵核范数是张量核范数(TNN)的二阶形式.本文针对以上两个问题开展研究,主要贡献有两个:一是提出了张量秩校正模型(CRTNN)和两阶段张量秩校正方法,二是构建了张量近似点算法,用于求解CRTNN模型和TNN模型,从理论上证明了该算法的收敛性.仿真实验验证了本文所提出模型和方法的有效性.结果显示,在医学图像以及视频图像的恢复问题中,张量秩校正方法能够取得更高的恢复精度.
图1为医学图像和视频图像原始图像.图2,图3分别为医学图像和视频图像在样本率为20%(即有效信息只有20%)的情况时用TSN模型,TNN模型,CRTNN模型视觉恢复效果对比,从图2,图3的PSNR值对比和视觉恢复效果对比中,可以发现本文提出的CRTNN模型能得到更好的恢复效果.
图4分别为医学图像和视频图像在TSN模型,TNN模型,CRTNN模型下对不同样本率得到的相对误差曲线对比.从中可以明显看出:本文提出的张量秩校正方法对不同的样本率得到的恢复图像的相对误差曲线都是最低的,表明本文提出的CRTNN模型能够取得更高精度的恢复效果.
5 结 论
针对高维图像恢复问题,本文提出了张量秩校正模型和两阶段张量秩校正方法,并提出了求解张量秩校正模型的张量近似点算法,从理论上分析了该算法的收敛性.仿真结果验证了本文所提出模型和方法的有效性,结果表明,张量秩校正方法模型能够取得更高的恢复精度.能否将该模型和算法推广到四阶及以上的图像恢复问题?这个问题值得进一步研究.
参考文献
[1] ELY G, AERON S, MILLER E L. Exploiting structural complexity for robust and rapid hyper spectral imaging [C]//Proceedings of IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 2013:2193-2197.
[2] GANDY S, RECHT B, YAMADA I. Tensor completion and low-n-rank tensor recovery via convex optimization [J]. Inverse Problems, 2011, 27(2): 025010.
[3] HAO N H, KILMER M E, BRAMAN K, et al. Facial recognition with tensor-tensor decompositions [J]. SIAM Journal on Imaging Sciences, 2013, 6(1): 437-463.
[4] KILMER M, BRAMAN K, HAO N,et al. Third-order tensors as operators on matrices: A theoretical and computational framework with applications in imaging [J]. SIAM Journal on Matrix Analysis and Applications, 2013, 34(1):148-172.
[5] LIU J, MUSIALSKI P, WONKA P, et al. Tensor completion for estimating missing values in visual data [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2013, 35(1): 208-220.
[6] SEMERCI O, HAO N, KILMER M E,et al. Tensor-based formulation and nuclear norm regularization for multienergy computed tomography [J]. IEEE Transaction on Image Processing, 2014, 23(4): 1678-1693.
[7] MU C, HUANG B, WRIGHT J,et al. Square deal: Lower bounds and improved relaxations for tensor recovery [C]//Proceedings of the 31st International Conference on Machine Learning (ICML-14), 2014, 32(1): 73-81.
[8] HE B S, YUAN X M, ZHANG W X.A customized proximal point algorithm for convex minimization with linear constraints [J]. Computational Optimization and Applications, 2013, 56(3): 559-572.
[9] TOH K C, YUN S. An accelerated proximal gradient algorithm for nuclear norm regularized least squares problems [J]. Pacific Journal of Optimization, 2010, 6(3): 615-640.
[10]KILMER M E, MARTIN C D. Factorization strategies for third-order tensors[J]. Linear Algebra and its Applications, 2011, 435(3):641-658.
[11]MIAO W, PAN S, SUN D. A rank-corrected procedure for matrix completion with fixed basis coefficients [J]. Math. Programming,2016,159(1):289-338.
[12]ZHANG Z, ELY G, AERON S,et al. Novel methods for multilinear data completion and de-noising based on tensor-SVD [C]// In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2014, 3842-3849.
[13]CAI J F, CANDES E J, SHEN Z. A singular value thresholding algorithm for matrix completion [J]. SIAM Journal on Optimization, 2010, 20(4): 1956-1982.