基于融合残差注意力机制的卷积神经网络地震信号去噪

由于U型卷积神经网络(Unet)在地震数据去噪中存在计算量大、网络退化和泛化能力弱等问题,本文为了提高去噪效果以及增强模型的泛化性,提出了一种融合残差注意力机制的卷积神经网络(RAUnet)。该网络结构主要由编码和解码两部分构成,网络的每个卷积层之后都加入了批标准化和带泄露整流激活函数。在编码器中,为了提高对噪声的提取能力,引入了残差结构和卷积块注意力模块。残差结构利用残差跳跃连接的方式减弱了网络退化,降低了特征映射的难度。卷积块注意力模块使用通道和空间的混合注意力权重,能提升相关度高的特征并抑制相关度低的特征。在解码器中,为了提升特征融合的维度恢复能力,选用双线性插值方式进行上采样。实验测试结果表明,对于合成地震信号,本文方法对简单模型和复杂模型随机噪声的压制效果均更有效,并且更好地保护了有效信号;对于实际地震信号,本文方法仍然能在去噪的同时尽量保持有效信号中的细节,对叠前数据和叠后数据都展现出了良好的泛化性。     

深度学习在地质学上的应用

自Hinton等使用基于卷积神经网络的深度学习模型赢得Image Net分类比赛以来,深度学习的研究席卷了各个行业。通过介绍深度学习的历史,探索国内地质行业中深度学习模型的使用情况,并介绍深度学习的基础概念(如神经元、神经网络、监督学习和无监督学习等)以及深度学习基础模型中的2个重要网络:深度信念网络(DBN)和卷积神经网络(CNN)。在此基础上,类比深度学习在医学等相关领域的应用,提出了深度学习在地质上的几点应用:利用深度学习在计算机视觉上表现出的强大能力,可以对遥感图像进行聚类、对岩石样品图像进行分类、对岩石薄片数据进行描述;利用深度学习对原始数据表现出的强大识别能力,处理地质异常数据,从而确定成矿靶区的可能位置;利用深度学习的特点,对地震前的声信号数据进行处理,从而判断出地震发生前的剩余时间。     

基于A- CGAN的深反射地震数据随机噪声压制方法研究

基于深度学习的地震数据噪声压制方法是当前地震数据去噪处理的重要方向。深度学习方法突破了传统滤波处理的局限,在对常规地震数据的噪声压制中表现出效率高、信噪分离效果好的特点。但针对深部弱有效反射数据,当前的深度学习方法特征提取能力有限,难以取得较好的去噪效果。笔者等结合深反射地震数据特点,针对当前深度学习噪声压制方法在特征提取及对数据集依赖上的局限,提出了基于注意力循环生成对抗网络(Attention Cycle- Consistent Generative Adversarial Networks,A- CGAN)的深反射地震数据随机噪声压制方法。借助循环一致生成对抗网络(Cycle- Consistent Generative Adversarial Networks,Cycle- GAN)的域映射思想,降低对数据集的要求。为了构建适用于深反射地震数据的去噪网络,从3个方面对Cycle- GAN进行改进：在Cycle- GAN的生成器（去噪器）中加入残差结构和注意力机制,用于加深网络深度和提高其特征提取能力;在Cycle- GAN的鉴别器中使用块判决,提高鉴别精度和准确度;在损失函数部分加入感知一致性损失函数,提升网络模型恢复纹理细节信息的能力。通过合成地震数据和实际深反射地震数据测试,验证了优化算法的有效性,体现了良好的应用价值。     

基于A- CGAN的深反射地震数据随机噪声压制方法研究

基于深度学习的地震数据噪声压制方法是当前地震数据去噪处理的重要方向。深度学习方法突破了传统滤波处理的局限,在对常规地震数据的噪声压制中表现出效率高、信噪分离效果好的特点。但针对深部弱有效反射数据,当前的深度学习方法特征提取能力有限,难以取得较好的去噪效果。笔者等结合深反射地震数据特点,针对当前深度学习噪声压制方法在特征提取及对数据集依赖上的局限,提出了基于注意力循环生成对抗网络(Attention Cycle- Consistent Generative Adversarial Networks,A- CGAN)的深反射地震数据随机噪声压制方法。借助循环一致生成对抗网络(Cycle- Consistent Generative Adversarial Networks,Cycle- GAN)的域映射思想,降低对数据集的要求。为了构建适用于深反射地震数据的去噪网络,从3个方面对Cycle- GAN进行改进：在Cycle- GAN的生成器（去噪器）中加入残差结构和注意力机制,用于加深网络深度和提高其特征提取能力;在Cycle- GAN的鉴别器中使用块判决,提高鉴别精度和准确度;在损失函数部分加入感知一致性损失函数,提升网络模型恢复纹理细节信息的能力。通过合成地震数据和实际深反射地震数据测试,验证了优化算法的有效性,体现了良好的应用价值。     

基于深度卷积神经网络的地震相识别技术研究

针对传统地震相分析方法难以有效表征地震相与地震数据间复杂的非线性映射关系,而人工解释工作强度大、效率低的问题,进行了基于深度卷积神经网络模型开展了地震相的智能识别技术研究。首先根据钻井解释和专家知识两种方式构建了地震相的训练样本库,之后利用Tensorflow深度学习框架开展了网络参数寻优,再利用搭建好的网络模型进行了实际资料的训练和预测。测试结果表明,利用CNN构建的河流相模型,预测成功率高于75%。因此,深度卷积网络不仅可以很好地保持地震数据结构特征,还可以基于多层网络结构挖掘数据中更深层的特征来提高地震相识别结果的可靠性,印证了该技术在地震相识别中的巨大应用潜力。     

基于深度学习的地质找矿大数据挖掘与集成的挑战

基于深度学习的地质找矿信息挖掘与集成已经成为数学地球科学的前沿领域.深度学习作为一种具有多级非线性变换的层级机器学习算法,在地质找矿大数据挖掘与集成中仍处于探索阶段,还有一系列问题亟需解决.以卷积神经网络为例,探讨了基于深度学习的地质找矿大数据挖掘与集成过程中两大挑战:训练样本不足和深度学习网络模型构建困难,重点分析了基于复制和添加噪声的地质找矿数据增强技术并开展了多组对比实验,构建了适用于地质找矿大数据挖掘与集成的训练样本和卷积神经网络模型.该模型对闽西南铁多金属成矿区的地质、地球物理和地球化学等多源数据进行了特征提取与集成融合,圈定了找矿远景区,为该区进一步找矿提供了科学依据.      

基于FPN Res-Unet的高分辨率遥感影像建筑物变化检测

针对城市土地资源变化检测工作繁杂、工作量大、自动化程度低等问题，本文提出一种基于深度学习模型的高分辨率遥感影像建筑物变化检测方法，将语义分割的思想引入到遥感变化检测。基于残差结构特征较卷积层提取性能更优和特征金字塔网络多尺度预测的特点，将残差结构和特征金字塔网络融合到Unet模型中，建立FPN Res-Unet模型。该模型以Unet为基础，引入ResNet18的残差结构作为编码路径特征提取层，在每次卷积后使用边界填充，使得输入图像和输出图像尺寸一致；在解码路径每级上采样过程中，拓展支路径将特征金字塔网络融合到模型的网络主干中，将残差结构、Unet及特征金字塔网络的优点相互融合，增强了Unet的特征提取，弥补了语义分割网络对小目标检测的欠缺；在获取深层语义信息的同时关注细节信息，提高建筑物变化检测精度。实验表明，该方法在所用数据集，准确率、召回率、F₁ 3种指标均达到90%以上。     

基于深度特征的双极化SAR遥感图像岩性自动分类

基于像元基元、极化合成孔径雷达（Synthetic Aperture Radar,SAR）数据和传统机器学习算法的岩性分类方法,易受SAR图像固有斑点噪声影响,精度不高.为了降低噪声的影响,本研究以大尺度像元邻域为基元,用于表征地表地质体的遥感图像特征和岩性语义信息;采用高分三号双极化SAR数据进行极化分解构建3通道假彩色合成影像;然后采用深度卷积神经网络（Deep Convolutional Neural Network,DCNN）迁移学习的方法,提取有效的深度特征表示,分别实现5 m和15 m两种空间分辨率下岩性遥感自动分类.结果表明:基于不同分辨率数据和不同DCNN算法,岩性遥感自动分类的总精度均大于80%,最高精度达到91%.基于大尺度像元邻域和DCNN迁移学习方法,能够实现基于SAR数据的高精度岩性分类.      

基于地震资料有效信息约束的深度网络无监督噪声压制方法

地震资料处理是地震勘探中的关键环节,由于地下构造和地表条件的复杂性,地震资料的处理需要经过一系列复杂流程,从而形成多种不同类型的地震数据。不同种类的地震数据具有不同的数据特征,充分利用和发掘其中的数据特征,不仅可以充分发挥处理方法的技术潜力,消除各类非地质因素对地震资料处理质量的影响,同时可以增强地震资料处理的可靠性,改善地震资料的资料信噪比及分辨率,在复杂油气藏勘探开发中具有非常重要的基础作用。叠前地震成像道集（CRP）中的有效信号同相轴近似水平,叠后地震成像数据因为地层沉积的规律性,有效信号相比于随机噪声、成像画弧噪声等干扰具有规律、简单等特点。具体表现为CRP道集及叠后地震资料有效信号具有多尺度自相似性的特征,其高维Fourier （FK或FKK）域主要能量集中在低频、低波数区域。针对上述地震数据的特点,提出一种基于先验信息约束的深度网络地震资料无监督噪声压制方法。受到深度图像先验（DIP）的启发,神经网络的结构可以视为一种特殊的隐式先验信息,合理设计网络结构可以使得网络具有多尺度自相似性特征的提取能力。由于叠前地震成像道集数据和叠后地震成像数据有效信号的多尺度自相似性,而噪声不具备这一特性,因此,特定结构的网络可以从原始数据提取出有效信号,从而达到噪声压制的目的。叠前成像道集和叠后成像的实际数据随机噪声压制试验结果表明,本文方法具有良好的保真性与鲁棒性。此外,由于本文方法具有强大的特征提取能力,因此,对常规方法不易压制的弧状成像噪声也有良好的效果。      

深度学习油气藏地质建模研究进展

随着大数据和以深度学习为基础的人工智能技术的快速发展,油气藏地质建模逐步从传统的两点地质统计建模、基于目标建模、多点地质统计建模和基于沉积过程建模进入智能地质建模阶段。以深度学习为基础的智能地质建模主要采用对抗生成网络建立三维地质模型,目前这些研究集中在网络结构和算法的完善,特别是对地震和测井等各类数据的条件化,少量研究侧重于样本数据的获取。目前研究中采用的训练样本大多是基于目标或基于沉积过程方法模拟得到的合成数据,为了真正将该技术应用实际地下油气藏,需要更加关注真实样本数据的获取。仅靠深度神经网络这种统计学习方法实现技术突破的难度较大,研发通用的人工智能地质建模器是未来的主要发展方向,其中统计学习与符号学习相结合可能是实现该技术的必经道路。     

来自大别山深成侵入岩图像深度迁移学习的可解释性研究

岩石图像识别是以深度学习为代表的感知智能在地质领域的典型应用场景。已有研究显示网络结构简单的深度卷积神经网络能够在岩石图像上取得比复杂网络结构高的分类准确率。这与ImageNet数据集上网络结构越深越好的趋势相悖。如何解释这一现象？深成侵入岩为显晶质,自形—半自形粒状结构,块状构造,其分类的依据是其矿物成分及相对含量。大别山地区岩浆活动广泛,中生代深成侵入岩广泛出露。岩石类型包括超镁铁质岩类、辉长岩类、闪长岩类、正长岩类、二长岩类和花岗岩类,基本覆盖IUGS推荐的深成侵入岩分类方案中的岩石类型。选取大别山地区中生代深成岩图像开展不同网络结构预训练模型迁移学习对比试验,能够专注于深度学习对矿物成分特征的学习解释,降低构造因素的影响。借助局部可理解的模型解释技术和特征图可视化技术,分别从全连接层分类决策区域可视化和卷积隐层可视化两方面对深度学习模型开展可解释性研究。结果表明简单网络结构的卷积神经网络能够提取不同矿物所表现出的颜色特征以及不同矿物组合所表现出的纹理特征。AlexNet模型的削减试验进一步证明：对于岩石图像深度学习,网络结构并不总是越深越好。     

来自大别山深成侵入岩图像深度迁移学习的可解释性研究

岩石图像识别是以深度学习为代表的感知智能在地质领域的典型应用场景。已有研究显示网络结构简单的深度卷积神经网络能够在岩石图像上取得比复杂网络结构高的分类准确率。这与ImageNet数据集上网络结构越深越好的趋势相悖。如何解释这一现象？深成侵入岩为显晶质,自形—半自形粒状结构,块状构造,其分类的依据是其矿物成分及相对含量。大别山地区岩浆活动广泛,中生代深成侵入岩广泛出露。岩石类型包括超镁铁质岩类、辉长岩类、闪长岩类、正长岩类、二长岩类和花岗岩类,基本覆盖IUGS推荐的深成侵入岩分类方案中的岩石类型。选取大别山地区中生代深成岩图像开展不同网络结构预训练模型迁移学习对比试验,能够专注于深度学习对矿物成分特征的学习解释,降低构造因素的影响。借助局部可理解的模型解释技术和特征图可视化技术,分别从全连接层分类决策区域可视化和卷积隐层可视化两方面对深度学习模型开展可解释性研究。结果表明简单网络结构的卷积神经网络能够提取不同矿物所表现出的颜色特征以及不同矿物组合所表现出的纹理特征。AlexNet模型的削减试验进一步证明：对于岩石图像深度学习,网络结构并不总是越深越好。     

集成空间变换结构与深度残差网络的遥感影像场景分类方法

针对传统高分辨率遥感影像的场景分类效率较低,以及卷积神经网络在遥感影像场景分类上由于空间不变性而导致的分类精度不高的问题,提出了一种结合空间变换网络和迁移学习的高分辨率遥感影像场景分类算法.首先,利用ImageNet数据集训练深度残差网络ResNet101得到预训练模型,通过知识迁移提高模型目标探测效率;之后在模型中嵌入空间变换结构,使模型能够主动在空间上变换特征映射,提高模型的鲁棒性;最后,在模型中添加Dropout层减小模型出现过拟合的概率.本方法在AID和NWPU-RESISC45两种不同规模的高分遥感影像数据集上进行了验证,在只有20%训练样本的情况下仍达到了94.30%和93.63%的分类精度.实验结果表明本次改进模型具有更好的特征提取能力,针对易误分类场景的分类结果更优.     

面向小尺度地质目标体的地震信号谐波预测拓频技术及应用

针对我国东部油田勘探开发中小断层、薄层、薄互层等小尺度地质体的探测需求,开展了地震数据拓频处理方法研究,并在胜利油田实际地震数据提高分辨率处理中进行了应用。在分析信号谐波理论的基础上,在实际地震数据提高分辨率处理中,提出了进行谐波与次谐波预测的地震数据拓频处理技术及流程。合成地震记录实例验证了利用基波预测谐波方法的可行性,在胜利油田面向小尺度地质目标体地震数据处理的应用中,验证了拓频处理技术的正确性,处理后的地震数据的频带宽度得到明显地拓展,达到了提高地震数据分辨率的目的。同时,实际数据经过拓频处理后,地震资料的信噪比也得到很好地保持,研究目标区的小断层的断点清晰。     

深度学习及其在深层天然气储层预测中的应用实验

介绍深度学习的基本理论方法及基于地震数据深度学习的深层天然气储层预测。指出了深层油气储层的"三弱"特点和预测所涉及的问题与面临的困难;提出了深度学习的深网络构建与训练方法,基于地震数据深度学习的深层天然气储层预测进行实验。认为深度学习(Deep learning)揭示对象内秉特征的能力,有助于发现使用现有方法难以发现的油气储层地震响应的内禀特征。同时探讨了基于地震数据深度学习的油气储层预测所涉及的关键性科学技术问题。     

光谱保真归一化卷积高光谱超分辨率重建方法

高光谱遥感图像受到成像系统硬件限制,无法同时具有高空间分辨率和高光谱分辨率,较低的空间分辨率制约高光谱图像的应用,超分辨率重建技术可提高图像的空间分辨率。针对高光谱图像的超分辨率重建中光谱保真度的问题,在重建方法中耦合光谱保真度函数,结合结构自适应归一化卷积方法,提出基于光谱保真约束的归一化卷积方法。具体地,将图像局部邻域内像素间的光谱相关性作为约束条件,将与中心像素光谱类似的像素赋予较大权值,从而提高重建后图像光谱特性的保持程度。实验中分别从空间结构与光谱信息保真两个方面来评价重建后结果,结果表明该方法具有较好的光谱信息保持度。     

基于深度学习的智能矿物识别方法研究

矿物识别在许多研究领域都有着重要作用,基于深度学习技术的智能矿物识别为这些领域带来了新的发展方向,不仅能有效节省人工成本,还能减小识别错误。针对石英、角闪石、黑云母、石榴石和橄榄石共5种矿物进行实验,提出了一种准确高效的智能矿物识别方法。实验采用图像分析常用的卷积神经网络建立模型,设计出一套基于残差神经网络的矿物识别方法。本实验独立采集了5种矿物的偏光显微图像数据集,用于模型的训练、验证和测试,并通过合理的数据增强策略来扩充训练数据集。在卷积神经网络的结构设计上,选取了ResNet-18作为框架,最终于模型测试中取得89%的准确率,成功训练出一个较为精准的矿物识别模型,实现了基于深度学习的智能矿物识别方法。     

基于改进原型网络的小样本古生物化石识别研究

传统古生物化石鉴定方法多依赖于古生物学家的经验知识,现有的人工智能识别方法需要大量的化石训练样本才能达到较高的准确率。为解决上述问题,在少量化石图像样本情况下准确识别化石,本文尝试使用残差网络和注意力模块相结合的方法,并将其运用于小样本的化石鉴定。首先以残差网络作为模型的特征提取模块,并在残差网络的残差块中嵌入CBAM卷积注意力模块,提高模型对于化石纹理特征的关注,以提取更为全面的深层次化石图像特征,再使用小样本度量学习中的原型网络对提取特征进行原型计算,最后通过多轮次迭代训练得出最佳的化石判别模型。使用本文方法与5种经典的小样本学习方法进行对比实验,实验结果表明本文方法的识别准确率最高,在样本数量为1和5的情况下,准确率达到了86.32%和94.21%,对稀缺样本下的化石识别具有更显著的优势。     

基于改进原型网络的小样本古生物化石识别研究

传统古生物化石鉴定方法多依赖于古生物学家的经验知识,现有的人工智能识别方法需要大量的化石训练样本才能达到较高的准确率。为解决上述问题,在少量化石图像样本情况下准确识别化石,笔者等尝试使用残差网络和注意力模块相结合的方法,并将其运用于小样本的化石鉴定。首先以残差网络作为模型的特征提取模块,并在残差网络的残差块中嵌入CBAM卷积注意力模块,提高模型对于化石纹理特征的关注,以提取更为全面的深层次化石图像特征,再使用小样本度量学习中的原型网络对提取特征进行原型计算,最后通过多轮次迭代训练得出最佳的化石判别模型。使用本文方法与5种经典的小样本学习方法进行对比实验,实验结果表明本文方法的识别准确率最高,在样本数量为1和5的情况下,准确率达到了86.32%和94.21%,对稀缺样本下的化石识别具有更显著的优势。     

地质领域机器学习、深度学习及实现语言

地质大数据正在以指数形式增长。只有发展智能数据处理方法才有可能追上大数据的超常增长。机器学习是人工智能的核心,是使计算机具有智能的根本途径。机器学习已成为地质大数据研究的前沿热点,它将让地质大数据插上翅膀,并因此改变地质。机器学习是一个源于数据的模型的训练过程,最终给出一个面向某种性能度量的决策。深度学习是机器学习研究中的一个重要子类,它通过构建具有很多隐层的机器学习模型和海量的训练数据,来学习更有用的特征,从而最终提升分类或预测的准确性。卷积神经网络算法是最为常用的一种深度学习算法之一,它广泛用于图像识别和语音分析等。Python语言在科学领域的地位占据着越来越重要。其下的Scikit-Learn是一个机器学习相关的库,提供有数据预处理、分类、回归、聚类、预测、模型分析等算法。Keras是一个基于Theano/Tensorflow的深度学习库,可以应用来搭建简洁的人工神经网络。