对数阈值截断算法及其在图像去噪中的应用
2018-05-28厉良召张笑钦
厉良召,张笑钦
(温州大学数理与电子信息工程学院,浙江温州 325035)
近年来在信号处理和数值优化领域,压缩感知理论(Compressive Sensing or Compressive Sampling, 简称 CS)[1-2]受到广泛关注.压缩感知主要包括信号稀疏表示、设计冗余测量矩阵和信号恢复三部分[3].CS本质是一个通过稀疏性约束求解欠定线性方程组的问题.研究表明[4]在一定条件下,线性系统的最小l1范数对应的解就是线性系统的最稀疏解,由此将一个NP-hard求解问题转变为一个求解最小l1范数(l1-min)的凸优化问题.针对这一数值优化问题,研究者们提出了很多快速有效的解法①Yang A Y, Sastry S S, Ganesh A, et al. Fastl1-minimization algorithms and an application in robust face recognition: a review [C]. IEEE International Conference on Image Processing, 2010: 1849-1852..本文选取其中最为流行的软阈值截断算法[5]作为基础,引入一种新的收缩阈值方法——对数阈值截断算法②Malioutov D, Aravkin A. Iterative log thresholding [C]. IEEE International Conference on Acoustics, Speech and Signal Processing, 2014: 7198-7202.,并将该算法用于图像去噪.非局部模型中性能较好的算法,如三维块匹配滤波BM3D算法[6]、基于KSVD字典学习的自然图像去噪算法[7]、非局部均值滤波NLM算法③Buades A, Coll B, Morel J M. A non-local algorithm for image denoising [C]. IEEE Computer Society Conference,2005: 60-65.等开辟了崭新的理论分支,使图像去噪领域跨越式向前发展.当前去噪领域,尤其在自然图像去噪领域,大部分算法都围绕非局部的主框架展开,通过利用图像中图像块的自相似来实现图像去噪,而图像块的自相似性是通过图像块形成的矩阵的低秩恢复来实现的.传统低秩恢复模型,采用对矩阵奇异值进行软阈值截断来实现求解,没有充分利用奇异值的先验知识,奇异值的大小有着不同的影响,大的奇异值代表数据的主要投影方向,所以收缩要尽量保留下来,而小的奇异值则含有的数据量少,因而收缩时要尽可能的扩大.本文正是基于这点,在传统的低秩去噪算法中,将对数阈值截断算法和非局部低秩去噪模型结合,用于图像去噪.
1 对数阈值截断算法
从一个测量函数Y=Ax+n中找到它的稀疏解向量x∈RN,测量函数y∈RM,其中M<N,n为高斯噪声,可以通过(1)式来解决这个问题:
l0范数优化是一个NP问题,很难找到优质的稀疏解,因此采用凸松弛的方法,将l0范数改成l1范数得到:
根据压缩感知理论[1-2],在一定条件下最小l1范数所对应的解是函数的最稀疏解.通过Lasso问题[8]的优化,可以得到:
其中λ是调节数据拟合项和稀疏正则项之间的平衡参数,由于目标函数(3)并不容易优化,根据Majorization-Minimization优化框架[9],可以优化替代目标函数:
对(4)式进行变形化简可以得到:
其中是与x无关的项,故可以将这个问题转化为软阈值函数优化问题,因而该算法是迭代软阈值截断(Iterative Soft Thresholding, 简称IST)算法[10],
其中S(Z)λ为软阈值算子:
当时,则(6)式是收敛函数.
在此基础上,发现文献[5]在原有的解决方法上采用新的阈值方法,参照该文献对目标函数(3)进行处理,将目标函数转化为:
其中δ是一个非常小的大于0的常数,对目标函数(8)进行固定点x的标量逼近得到:
在这里使用迭代对数阈值算法(10)求解目标函数(3),可以得到更加稀疏的解,即:
这里的L(x)λ就是(10)所表达的函数,只需更换函数进行迭代运算就可得到目标函数的稀疏解.
2 对数阈值截断在图像去噪中的应用
在自然图像去噪中[11],设含噪的图像为其中N为高斯噪音,且服从正态分布,其中噪声方差2δ 是一个描述噪声统计特性的重要参数.
根据块之间的固有的相似性,利用块间的线性相关性建立低秩模型,因此在块之间的结构越相似,在去除噪声误差的影响后,矩阵的秩将越小,建立低秩数学模型为:
其中λ是用来调节矩阵的秩最小化在重构中的作用,将其转化为核范数进行优化求解:
rank(X)和的显著差异是前者只与非零奇异值的个数有关,而与具体的奇异值无关,后者则是直接依赖于所有奇异值并等于所有奇异值之和.这个优化问题是凸的,所以直接采用奇异值分解作为解决方法.相似性矩阵的SVD分解为,其中是相似性矩阵Xm niR×∈ 的对应奇异值.对于(13)这个目标函数,采用RASL算法[12]优化求解:
其中Sλ(Xi)为奇异值软阈值算子,定义如下:
这里的算子是对Xi的奇异值进行软阈值操作,使其向无噪收缩逼近,在某些情况下,如果Xi的绝大部分奇异值都在阈值τ之下,那么Sλ(Xi)的秩会相当的低,因此只要输入矩阵的奇异值低于阈值,对其阈值处理的输出结果就是稀疏的,所以低秩是稀疏的特例.在许多文献[13-14]中阈值不仅由噪声决定,还依赖数据本身的性质,所以算法的关键就是阈值τ的设计.这里对奇异值的阈值操作的参数是固定的,但为了提高精度,采用迭代加以提高.
受压缩感知领域的l范数稀疏理论和Bregman迭代[15]的提示,迭代低秩去噪模型为:
其中kσ是步长因子,利用(6)式可得:
每次迭代过程中,kσ控制着差异部分的强度,通过迭代把差异信息一点点回补到低秩部分,从而达到去噪的同时,尽可能的多保留细节.
为了准确计算含噪音的图像方差,采用文献①Charest M R, Elad M, Milanfar P. A general iterative regularization framework for image denoising [C]. IEEE International Conference on Sciences and Systems, 2006: 452-457.提出的一个方差估计策略,其估计为:
将优于迭代软阈值的算子的迭代对数阈值算子进行更换,可以得到新的解:
则算法的步骤如下:
步骤1:输入噪声图像Y,然后根据噪声强度设置参数,迭代次数H;
步骤3:建立搜索窗口,在窗口内对Y(k+1)分块,并进行相似块匹配②Mairal J, Bach F, Ponce J, et al. Non-local sparse models for image restoration [C]. IEEE International Conference on Computer Vision, 2010: 2272-2279.,在窗口内找yi的K个最相似的图像块,可以得到集合建立相似性矩阵Mi;
步骤4:对每一个Mi使用迭代对数阈值低秩分解;
步骤5:h=h+1,当h<H,跳转到步骤2,否则进行下一步;
步骤6:对恢复出的相似块进行聚合,得到Y*.
3 实验结果
3.1 实验一
通过一组一维数据来研究这两种迭代阈值函数是否有效,随机产生一组数字.
0 - 100中在固定位子取1.3、1.3、1.7、2.0、1.2,其余值赋为0,得到图1.对这组数据加以卷积得到另一组数据,见图2.
图1 原始数据Fig 1 Original Data
图2 加噪数据Fig 2 Noise-added Data
对这组数据分别用迭代软阈值算法和迭代对数阈值算法进行恢复处理,在迭代软阈值算法中,取λ=0.1,在迭代对数阈值中取δ=0.2.得到图3和图4.
图3 迭代软阈值恢复Fig 3 Iterative Soft-threshold Recovery
图4 迭代对数阈值恢复Fig 4 Iterative Logarithmic-threshold Recovery
这两种算法在迭代次数为100次时的变化情况,见图5和图6.
从图5图6可以看到,迭代对数阈值算法在数值恢复精度上,更加接近原始数据,效果明显优于迭代软阈值算法.在重构误差上,迭代软阈值的效果较差,而在函数收敛性方面,迭代对数阈值的函数变化更为平缓,实验效果更佳.
图5 迭代软阈值函数Fig 5 Iterative Soft-threshold Function
图6 迭代对数阈值函数Fig 6 Iterative Logarithmic-threshold Function
3.2 实验二
客观评价一幅图像去噪效果,通过与原始图像信号相比之后获得的误差信号来进行质量分析.图像质量的下降与误差信号的强弱相关.客观评价方法属于全参考图像质量评价方法,常用的方法有结构相似度(SSIM)和峰值性噪比(PSNR).
峰值信噪比(PSNR)是图像处理中最常用的图像质量评价的客观标准,峰值信噪比越大,说明去噪效果越好.结构相似度取值范围为0到1之间,值越大,说明图像的结构越相似.
为验证本文算法的有效性,选取格式为.tif的12张灰度自然图进行测试,分别为“barbara”“boat”“cameraman”“couple”“fingerprint”“hill”“house”“lena512”“man”“monarch_full”“peppers256”“straw”,见图 7.
图7 自然图像Fig 7 Natural Image
取噪声方差δ(δ>0)分别为10、20、30.实验参数中图像块w与搜索窗口nblk的大小如果迭代次数H=10;如果迭代次数去噪的各种算法都是使用matlab语言编程实现,仿真平台:MATLAB R2017a平台上运行.
在上述实验条件下,对比传统的去噪算法和本文提出的迭代对数阈值算法在自然图像去噪效果,见表1.
表1 去噪算法PSNR值和SSIM值Table 1 Denoising AlgorithmPSNSValues andSSIMValues
从表格1的实验结果可以看出,改进的迭代对数阈值算法相较于传统的去噪方法,不管是去噪效果还是在图像纹理保持效果都有所提高.
随机选择图像“Lena512”,在图8(a)原始图像上加入方差δ=10的噪声(PSNR=28.14),加噪图像见图8(b),图8(c)为SOFT算法对加入噪声图像的去噪效果(PSNR=26.76,SSIM=0.79),图8(d)为本文算法对加入噪声图像的去噪效果(PSNR=29.87,SSIM=0.87).从实验数据可以看出,本文提出的算法有较好的信噪比和更高的相似度.
选择“barbara”,在原始图9(a)上加入方差δ=30的噪声(PSNR=18.52),见加噪图9(b)所示.图9(c)为SOFT算法对加入噪声图像的去噪效果(PSNR=31.56,SSIM=0.86),图9(d)为本文算法对加入噪声图像的去噪效果(PSNR=35.20,SSIM=0.90).从实验数据可以看出,本文的算法在信噪比和相似度都远高于软阈值算法;在视觉效果中,本文的去噪效果更佳,图片恢复更加清晰.
图8 实验比较Fig 8 Comparison of Experiments
图9 实验比较Fig 9 Comparison of Experiments
4 结 论
基于压缩感知优化问题,引入一种全新的迭代对数阈值算法,相较于传统阈值方法更加平滑.在相似块矩阵秩最小化的自然图像去噪上加以采用,能很好地去除含有高斯噪音的噪声图像,保留低秩部分并恢复图像.算法在阈值处理上采用迭代对数阈值,更加有效地保留了奇异值.实验结果表明,该方法对于高斯噪音有很好地去噪效果,同时也能够很好地保持图像的结构纹理.
参考文献
[1]Donoho D L. For most large underdetermined systems of equations, the minimall1-norm near-solution approximates the sparsest near-solution [J]. Commun Pur Appl Math, 2010, 59(6): 797-829.
[2]Sharon Y, Wright J, Ma Y. Computation and relaxation of conditions for equivalence between 1 and 0 minimization[J]. Ther Adv Psychopharm, 2007, 3(4): 186-190.
[3]Candè E J, Wakin M B. An introduction to compressive sampling [J]. IEEE Signal Proc Mag, 2008, 25(2): 21-30.
[4]Zhao P, Yu B. On model selection consistency of Lasso [J]. J Mach Learn Res, 2006, 7(12): 2541-2563.
[5]Chen S, Donoho D L, Saunders M A. Atomic decomposition by basis pursuit [J]. SIAM J Sci Comput, 1998, 20(1):33-61.
[6]Dabov K, Foi A, Katkovnik V, et al. Image denoising by sparse 3-D transform-domain collaborative filtering [J].IEEE T Image Process, 2007, 16(8): 2080-2095.
[7]Elad M, Aharon M. Image denoising via sparse and redundant representations over learned dictionaries [J]. IEEE T Image Process, 2006, 15(12): 3736-3745.
[8]Tibshirani R J. Regression shrinkage and selection via the Lasso [J]. J R Stat Soc, 1996, 58(2): 267-288.
[9]Figueiredo M A, Bioucas-Dias J M, Nowak R D. Majorization-minimization algorithms for wavelet-based image restoration [J]. IEEE T Image Process, 2007, 16(12): 2980-2991.
[10]Daubechies I, Defrise M, De Mol C. An iterative thresholding algorithm for linear inverse problems with a sparsity constraint [J]. Commun Pur Appl Math, 2003, 57(11): 1413-1457.
[11]唐中和. 低秩逼近理论及其在自然图像去噪中的应用[D]. 西安:西安电子科技大学电子工程学院,2013:15-69.
[12]Peng Y, Ganesh A, Wright J, et al. RASL: robust alignment by sparse and low-rank decomposition for linearly correlated images [J]. IEEE T Pattern Anal, 2012, 34(11): 2233-2246.
[13]Candes E J, Plan Y. Matrix completion with noise [J]. P IEEE, 2009, 98(6): 925-936.
[14]Zhang L, Dong W, Zhang D, et al. Two-stage image denoising by principal component analysis with local pixel grouping [J]. Pattern Recognition, 2010, 43(4): 1531-1549.
[15]Cai J F, Osher S, Shen Z. Split bregman methods and frame based image restoration [J]. SIAM J Multiscale Mo,2010, 8(2): 337-369.