基于多管秩和全变分的低秩张量填充

2024-01-20汪丽琴喻高航

杭州电子科技大学学报(自然科学版) 2023年5期

马娇,汪丽琴,喻高航

(杭州电子科技大学理学院,浙江杭州 310018)

0 引言

张量填充问题被广泛应用于机器学习、图像修复等领域,在过去几年里受到广泛关注。在实际运用中,很多数据具有低秩和稀疏的特征。Lin等[1]在低秩张量分解的基础上,结合张量的稀疏性和数据的时空平滑性,提出了TCTF-TVT模型。该模型描述的是因子张量而不是填充张量的时空平滑性。在此基础上,Wang等[2]提出了三阶张量低秩填充模型(spatio-temporal regularization tensor factorization with TV regularization,SRTFTV)。该模型刻画了填充张量的时空平滑性,但缺失了张量在第三个维度上的低秩性刻画,对某些三个维度都具有低秩性的张量数据填充效果不佳。

张量的秩有很多不同的定义,如CP秩[3]、Tucker秩[4]、Tubal秩[5]、TT秩[6]等。2015年,Xu等[7]基于Tucker秩的定义,提出了低秩张量填充的TMac算法。该模型的本质是刻画每个维度上模展开矩阵的低秩,当整一行或整一列数据缺失时,填充效果就会很差。2017年,Zhou等[8]基于管秩提出了低秩张量填充的TCTF方法。该方法可以避免算法执行中的张量奇异值分解,能够快速有效的完成张量数据填充。但该模型只有前两个维度的低秩刻画,当实际张量数据每个维度都具有低秩性时,TCTF填充效果不够理想。2017年,Yu等[9]给出了多管秩的概念,将TCTF方法从一个模上的低秩张量分解扩展到三个模上的低秩张量分解,构建了MTRTC模型。该模型通过张量低多管秩分解,很好的刻画了每个维度上的低秩信息。2019年,Song等[10]提出了基于酉变换的T-积分解方法,使得模型的低秩性更加明显。基于以上分析,本文主要研究基于酉变换的张量低多管秩分解的张量填充模型,并提出了邻近交替极小化(PAM)算法。

1 张量填充模型

假设φ∈Cnu×nu是满足φφH=φHφ=I的酉变换矩阵,其中φH表示φ的共轭转置,I是单位矩阵。将三阶张量∈Rn1×n2×n3沿第u个维度的所有纤维都左乘矩阵φ得到张量

定义1(块对角矩阵) 对于给定三阶张量∈Rn1×n2×n3,定义矩阵Rn1n3×n2n3为

定义2(酉变换张量积) 对于2个三阶张量∈Cn1×n2×n3和∈Cn2×n4×n3,沿第3个维度作酉变换张量积(φ3-积)得∈Cn1×n4×n3,表示如下

定义3(共轭转置):对于给定张量∈Cn1×n2×n3,定义在酉变化下的共轭转置

引理1[10]假设和为任意两个张量,令=*φu,u∈[3],则下列的性质成立

我们简要回顾一下TCTF算法。为了避免做t-SVD分解,Zhou[8]等提出了以下张量填充问题。

(1)

Wang等[2]提出的SRTFTV模型是在TCTF模型的基础上,添加了对填充张量时空平滑性的刻画,但仍然是在傅里叶变换的基础上进行的张量分解。为了使模型具有更好的低秩性,本文研究基于酉变换三阶张量低秩填充模型,模型如下:

(2)

优化问题(2)可以转化为如下无约束优化问题:

(3)

2 PAM算法

(4)

(5)

(6)

式中,ρ1,ρ2,ρ3是给定的参数,并且ρ1,ρ2,ρ3>0。可以看出,子问题(4)-(6)都是强凸优化问题,因此子问题的存在性和唯一性能得到保证,均有显示解。具体如下:

(7)

(8)

(9)

(10)

(12)

(13)

(14)

通过软阈值算子,式和式有如下唯一解:

(15)

(16)

(17)

(18)

可以看出上述问题的唯一解是以下矩阵方程的解。

(19)

(20)

即Λn为n×n的非负对角矩阵,所以式等价于

(21)

(22)

故有:

(23)

式中,iUtran表示逆酉变换。

3 收敛性分析

基于酉变换的张量低秩分解的张量填充(UTCTFTV)方法的详细伪代码描述如下:

算法基于酉变换的张量低秩分解的张量填充(UTCTFTV) 输入: 观察到的张量数据 ∈ R n 1 ×n 2 ×n 3 ,初始秩 r 0 ∈ Rn 3 , 观测指标集 Ω,相关参数 α1 ,α2 ,α3 ,β,λ,ρ 1 ,ρ 2 ,ρ 3 > 0,容差 ε = 1e - 6。初始化: 0 u , 0 u , 0 ,u ∈ [3] While not converge do (1) 固定 k u 和 k ,通过式(7) 更新 k+1 u ; (2) 固定 k+1 u 和 k ,通过式(8) 更新 k+1 u ; (3) 固定 k+1 u 和 k+1 u ,通过式(23) 更新 k+1 ; (4) 检查终止条件: w k+1 - w k 2 F w k+1 2 F ≤ ε; End while 输出: k+1

定义V[l1,l2,l3]∶∈Rl1×l2×l3V[l1,l2,l3]()∈Rl1l2l3×1,参数设置如下:

将式(3)改写为

F(x,y,w)=H(x,y,w)+G(w)+δs(w)

引理2令f∶Rn→R∪{+∞}为正常下半连续(PLSC)函数,{xk}k∈N⊂Rn为满足以下条件的序列

定理1假设算法生成的序列(x,y,w)是有界的,则它收敛到F的临界点。

证明首先,因为(x,y,w)是有界序列,所以函数H是梯度利普希茨连续的。S是非空闭集,故δs(·)是正常下半连续函数。又因为G是正常下半连续函数,所以F也是正常下半连续函数。

最后,傅里叶变换和逆傅里叶变换是有限维空间之间的线性映射,因此H是半代数函数。函数G是绝对值函数和线性多项式的有限线性组合,绝对值函数和线性多项式均为半代数函数,故G是半代数函数。半代数函数的有限和与有限乘积仍是半代数函数,故F是半代数函数。由于F在每个(x,y,w)∈dom(F)上满足K性质,因此F在dom(F)上是半代数的。根据引理1,算法生成的有界序列收敛到F的临界点。证毕。

4 多光谱图像恢复数值实验

实验中,将UTCTFTV方法与TCTF[8]、TMac[7]、TCTF-TVT[1]和SRTFTV[2]方法进行比较,采用峰值信噪比(Peak Signal to Noise Ratio,PSNR)作为数值指标。PSNR定义如下:

我们对三个多光谱数据集pompoms,cloth和beads做数值实验,并对其峰值信噪比和运行时间进行比较。对于pompoms数据集,我们只在每张图像中使用256×256的区域,其中每个像素在31个频率通道上记录,所得张量的大小为256×256×31。对于cloth数据集和beads数据集,我们在每幅图像中都仅使用512×512的区域,其中每个像素记录在31个频率通道上,所得张量的大小为512×512×31。

图1 高光谱实验效果

表1 TCTF、TMac、TCTF-TVT、SRTFTV、MTRTC和UTCTFTV多光谱数据集峰值信噪比和时间

在表1中,通过对不同采样率0.4至0.7下的峰值信噪比和运算时间进行比较,可以看出,UTCTFTV的峰值信噪比高于TCTF、TMac、TCTF-TVT、MTRTC和SRTFTV的峰值信噪比。图1是多光谱数据集“pompoms”,“cloth”和“beads”在模型TCTF、TMac、TCTF-TVT、SRTFTV和UTCTFTV采样率设为70%的恢复图像。我们可以观察到UTCTFTV的恢复效果优于TCTF、TMac、TCTF-TVT、MTRTC和SRTFTV的恢复效果。