一种基于门控卷积-长短记忆网络的时间序列影像重建方法

文档序号:9415 发布日期:2021-09-17 浏览:62次 英文

一种基于门控卷积-长短记忆网络的时间序列影像重建方法

技术领域

本发明涉及一种基于门控卷积-长短记忆网络的时间序列影像重建方法,该方法利用门控卷积提取部分区域缺失影像的空间特征,利用长短时记忆(LSTM)网络实现影像时间维度特征,再根据时空变化的规律,实现遥感时间序列数据重建。

背景技术

时间序列影像是某一研究区多期影像按时间排列而构成,描述了研究区地表特征随时间的变化。然而,时间序列影像上部分日期由于云影等因素影响,造成相应区域数据缺失。因而,从时间序列影像提取的特征部分维度是缺失的,造成各个特征之间无法准确对齐,给后续的影像分类和信息提取带来困难。缺失区域填充是根据一定规则对影像上的缺失部分进行填充,获得无缺失的影像。根据利用信息的维度的不同,遥感数据缺失区域填充方法分为空间维、时间维、光谱维、时空结合的方法。

由于遥感影像缺失区域大多情况下是部分区域缺失,可以利用遥感影像上的有效区域对缺失区域进行预测,获得无缺失的遥感影像。根据是否使用参考影像,可以分为单期影像填充和多期影像填充,单期影像填充是从影像提取梯度等结构信息,然后从影像上的有效区域推广到未知区域,实现缺失区域填充;多期影像是将参考影像的信息按照一定的方法映射到参考影像。考虑到不同时间获取影像之间辐射特征差异,直接将原始影像贴上去会导致重建的影像块与原始影像块之间存在色彩差异,而导致色彩不一致。另外一种方法是仅仅使用某一影像作为参考,而将同一影像上的相似区域拷贝过去,填充到缺失区域。

基于时间维缺失特征重建是将各个像素看成随时间变化的一种特征描述,该特征可以是反射率、DN值或NDVI等,根据一定规则描述特征在时间维度的变化,对缺失特征进行重建。常用方法如均值填充,前一个像素值填充、后一个像素值填充,这些方法对平稳时间序列取得了较好的效果,但对具有周期性变化或者突变的地物的效果一般。另一种方法是以时间序列特征作为相似像素选取的条件,即根据时序特征选取具有相同或相似的变化曲线,并利用参考时序曲线对缺失区域进行重建,该方法能够考虑各个观测尺度像素随时间的变化,但忽略了各个像素空间上的邻近关系,重建各个像素之间由于缺乏关联性,存在椒盐噪声。

遥感影像不仅表现出空间相关性,也表现出时间相关性。这要求重建结果不仅能够反映局部区域的纹理细节,与周围无缺失区域融为一体;也要反映影像的时间变化特征。时间域与空间域融合的方法试图同时利用以上两种信息,实现缺失区域的重建。一种方法先将影像通过多尺度分割划分为均质的影像块,由于这些影像块是相似像素聚合而成,从而描述了影像像素的空间相似性。典型方法如:通过像素聚类形成超像素,获得超像素具有相似的光谱块(ZhouYa’nan,Yang Xianzeng,Feng Li,Wu Wei,Wu Tianjun,LuoJiancheng,Zhou Xiaocheng,Zhang Xin.Superpixel-based time-seriesreconstruction for optical images incorporating SAR data using autoencodernetworks[J].GIScience&Remote Sensing.2020,57(8):1005-1025.);通过多时相分割,使得分割块具有相似的变化规律(WuWei,Ge Luoqi,Luo Jiancheng,Huan Ruohong,YangYingpin.A Spectral–Temporal Patch-BasedMissingArea Reconstruction for Time-Series Images[J].Remote Sensing,2018,10(10):1560.);在此基础上,通过建立影像块的时间变化关系,实现缺失区域整体的重建。基于时间序列相似性判断和基于统计的方法被广泛用于时间序列重建,其中欧式距离和相关系数是两种常用的描述时间序列之间的相关性的度量方法。

从上述过程可以看出:上述方法的空间域和时间域是分开处理的,即先通过聚类将像素聚为超像素,或者通过影像分割得到分割块;再使用LSTM进行时间序列建模,描述影像的时间变化特征。该方法的聚类和时序建模是独立进行的,这类方法假设超像素或分割块内部是均一的,这个假设与事实存在相当大的差距。一种更优化的方式是可以时间变化变化规律和空间变化规律协同进行优化,使得模型不仅能够描述地表的空间变化,也能描述其时间变化。同时,通过卷积等非线性模型描述地表的时空分布规律。

发明内容

为了充分利用时间序列影像所表现出的时间-空间特征,本发明提出一种基于门控卷积-长短记忆网络的时间序列影像重建方法。

假设有一组n景不同时间获取的遥感影像I,按照时间序列排列构成时间序列影像:

I=<I1,I2,...,In> (1)

其中,<.>表示有序集,即序列中的各个元素是有序的。

遥感影像上部分区域的数据状态使用掩膜M表示。掩膜标识了影像各个像素是否缺失,0表示缺失值,1表示有效值。掩膜数据使用云掩膜算法或者人工目视方式得到。输入一景覆盖相同区域的影像Ij,该影像来自时间序列影像或其他时间影像,该影像上部分区域是缺失,需要对缺失区域进行填充。

本发明采用一种生成对抗网络结构,利用时序影像I训练一个模型G,该模型描述了时序影像在时间和空间的变化关系。同时,将人工生成结果和真实影像输入到分类器D,判断输入是人工生成结果还是真实影像,通过二者的对抗训练,实现二者的协同优化。然后,将待重建的影像Ij输入到生成器G中,根据Ij的有效部分,预测影像上的缺失部分,生成一张无缺失的影像。

包含如下几个关键步骤:

步骤1:生成器训练

子步骤1:基于GatedConvLSTM的时序影像特征提取

输入影像掩膜M和时间序列影像I,通过卷积神经网络GatedConvLSTM提取影像的时间序列特征F1 T和隐藏特征

其中,GatedConvLSTM1的下标1表示分类器的层次。

子步骤2:基于GatedConv3d的影像下采样

将提取的特征F1 T通过三维门控卷积(GatedConv3d)进行空间分辨率下采样获得下采样特征F2 C

F2 C=GatedConv3d1(F1 T)

根据子步骤1和2同理可得:

子步骤3:基于GatedConv3d的多尺度空洞特征融合

将提取到特征F3 T通过四个空洞率(Dilated)分别为2,4,6,8的GatedConv3d融合,得到深度融合特征FB

FB=DilatedGatedConv3ds(F3 T)

子步骤2、3相当于一个编码过程,即将时序影像编码为特征。

子步骤4:影像特征连接

深度融合特征FB通过与之前GatedConvLSTM得到的特征F3 T组合并输入门控卷积获得预上采样特征F4 C

F4 C=GatedConv3d3(Concat(F3 T,FB))

子步骤5:影像特征上采样

将预上采样特征F4 C和同一尺度GatedConvLSTM处理后获得隐藏特征输入到当前GatedConvLSTM,以维持网络特征上时间维度的联系。

将特征通过上采样门控卷积放大两倍。

根据子步骤4和5同理可得:

F6=UpsampledGatedConv3d2(F5 T)

F6 C=GatedConv3d6(Concat(F1 T,F6))

子步骤6:时间序列影像生成

经上采样-下采样的结构和步骤,最后使用门控卷积输出修复后的时间序列影像Iout

步骤2:分类器训练

将真实时序影像和生成影像输入到分类器C,判断该影像是真实的,还是分类器合成的影像。

本发明使用一种多时相光谱局部判别器,它能充分地利用时空特征和时间维度的信息。它由6个卷积核为3×5×5、步长为1×2×2的3d卷积组成。

判别器的每个卷积层都使用了光谱归一化,来稳定训练。

另外,我们使用了最小二乘生成对抗网络的训练形式,判别器的优化函数如下:

其中,G表示生成器;D表示判别器;z代表输入的缺失序列;a和c都代表真,用1表示,b代表假。

步骤3:缺失区域重建

步骤部分区域缺失的影像Ij至步骤1训练完成的生成器G,获得时间序列重建影像Iout

本发明的优点在于:1.使用LSTM网络进行时间序列影像的建模,使得重建结果能够描述地表的时间变化特征;

2.相当于传统的卷积方式将所有像素视为有效像素,门控卷积通过显式地对缺失像素建模,可以更好地对缺失区域进行特征提取。

3.本发明将LSTM和门控卷积进行融合,可以同时考虑时间和空间特征建模,重建具有更好的精度。

4.本发明采用生成对抗网络训练,通过生成网络与对抗网络的协同优化,能够提高重建效果。

附图说明

图1基于时间序列影像重建方法的流程图。

图2基于时间序列影像重建的网络结构图。

图3重建之前的时间序列影像。

图4重建之后的时间序列影像。

具体实施方式

本实施例结合图1的流程图及其图2的网络结构图,说明本发明的实施方式。使用2019年3月到8月之间获取的18景哨兵二号影像构建时间序列影像I,位于中国安徽寿县。

首先,对18景影像进行预处理,实施大气校正和云影去除。其中,大气校正使用Sen2Cor软件;云影去除使用Fmask4软件生成云影掩膜M,再根据掩膜提取清晰晴朗的像素。部分区域缺失的时间序列影像I如图3所示。

数据集是时间序列中的干净部分,并划分为32×32的块,时间长度为10,共有8811个。训练集和测试集以9:1随机划分。真值目标为原来分割的小块,输入序列随机时间随机位置缺失。

训练数据使用随机旋转方式进行数据增强。生成器和分类器以生成对抗的方式协同训练200代,一次迭代8个数据。生成器和分类器都使用Adam优化器学习,生成器初始学习率设置为0.001,分类器初始学习率为0.0005,都为每20代以0.5衰减。

步骤1:生成器训练

子步骤1:基于GatedConvLSTM的时序影像特征提取

根据公式(2),输入时间序列影像I和云影掩膜M,通过卷积神经网络GatedConvLSTM提取影像的时间序列特征F1 T和隐藏特征

子步骤2:基于GatedConv3d的影像下采样

将提取的特征F1 T通过三维门控卷积(GatedConv3d)进行空间分辨率下采样获得下采样特征F2 C,该步骤的输入是上一个步骤提取的卷积特征F1 T,如公式(3)。

根据子步骤1和2同理可得,如公式(4)、(5)和(6)。

子步骤3:基于GatedConv3d的多尺度空洞特征融合

公式(7)将提取到特征F3 T通过四个空洞率分别为2,4,6,8的GatedConv3d融合,得到深度融合特征FB

子步骤4:影像特征连接

深度融合特征FB通过与之前GatedConvLSTM得到的特征F3 T组合并输入门控卷积获得预上采样特征F4 C,如同公式(8)。

子步骤5:影像特征上采样

如公式(9)将预上采样特征F4 C和同一尺度GatedConvLSTM处理后获得隐藏特征输入到当前GatedConvLSTM,以维持网络特征上时间维度的联系。

如公式(10)将特征F4 T通过上采样门控卷积放大两倍。

根据子步骤4和5同理可得,如公式(11)、(12)、(13)、(14)和(15)。

子步骤6:时间序列影像生成

经过了类似编码-解码的结构和步骤,最后使用门控卷积输出修复后的时间序列影像Iout,如公式(16)。

步骤2:分类器训练

输入真实影像和算法生成的影像到分类器D,判断该影像是真实的,还是分类器合成的影像。对此,我们使用一种多时相光谱局部判别器,它能充分地利用时空特征和时间维度的信息。它由6个卷积核为3×5×5、步长为1×2×2的3d卷积组成。判别器的每个卷积层都使用了光谱归一化,来稳定训练。最终输出影像是真实的,还是生成器合成的。

另外,我们使用了最小二乘GAN的训练,判别器的优化函数如公式(17)和(18)。

步骤3:缺失区域重建

该步骤输入部分区域缺失的影像Ij至步骤1训练的生成器,得到无缺失的影像。

采用上述方法依次对时间序列影像I中的缺失区域进行了填充,得到的无缺失时间序列影像如图4。可以看出,缺失区域填充的结果既能清晰反映地物的纹理空间分布,也能反应影像的时间序列变化,说明本文方法能够准确地反映地物的时间变化与空间变化。

以上仅是对本发明实施例的描述,但本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式,本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术。

完整详细技术资料下载
上一篇:石墨接头机器人自动装卡簧、装栓机
下一篇:X线图像的散射修正方法、装置、电子设备、存储介质

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!