面向多源异质遥感影像地物分类的自监督预训练方法 |
| |
作者姓名: | 薛志祥 余旭初 刘景正 杨国鹏 刘冰 余岸竹 周嘉男 金上鸿 |
| |
作者单位: | 1. 信息工程大学;2. 北京航空气象研究所;3. 华北水利水电大学;4. 93110部队;5. 93116部队 |
| |
基金项目: | 河南省自然科学基金(222300420387)~~; |
| |
摘 要: | 近年来,深度学习改变了遥感图像处理的方法。由于标注高质量样本费时费力,标签样本数量不足的现实问题会严重影响深层神经网络模型的性能。为解决这一突出矛盾,本文提出了用于多源异质遥感影像地物分类的自监督预训练和微调分类方案,旨在缓解模型对于标签样本的严重依赖。具体来讲,生成式自监督学习模型由非对称的编码器-解码器结构组成,其中深度编码器从多源遥感数据中学习高阶关键特征,任务特定的解码器用于重建原始遥感影像。为提升特性表示能力,交叉注意力机制模型用于融合异源特征中的信息,进而从多源异质遥感影像中学习更多的互补信息。在微调分类阶段,预训练好的编码器作为无监督特征提取器,基于Transformer结构的轻量级分类器将学习到的特征与光谱信息结合并用于地物分类。这种自监督预训练方案能够从多源异质遥感影像中学习到刻画原始数据的高级关键特征,并且此过程不需要任何人工标注信息,从而缓解了对标签样本的依赖。与现有的分类范式相比,本文提出的自监督预训练和微调方案在多源遥感影像地物分类中能够取得更优的分类结果。
|
关 键 词: | 遥感 多源异质数据 预训练 自监督学习 土地覆盖分类 |
|