基于BERT—BiLSTM—CRF模型的中文岩石描述文本命名实体与关系联合提取

地质调查正在从“数字化”走向“智能化”，需要在大数据思维的指导下，面向非结构化数据开展机器阅读和地质知识的自动提取。地学命名实体和关系联合提取是当前研究的难点和核心。本文采用基于大规模预训练中文语言模型的BERT—BiLSTM—CRF方法开展岩石描述文本命名实体与关系联合提取。首先，通过收集数字地质填图工作中的剖面测量和路线地质观测数据，建立岩石描述语料；然后，在岩石学理论指导下分析岩石知识组成，完成岩石知识图谱命名实体与关系的模式设计，标注岩石语料；最后，开展岩石描述语料知识提取的深度学习训练和消融试验对比。试验结果显示，大规模预训练中文语言模型（BERT）对岩石描述语料知识提取具有较高的适用性。推荐的BERT—BiLSTM—CRF模型方法对岩石命名实体与关系联合提取的准确率（F1值）为91.75%，对岩石命名实体识别的准确率（F1值）为97.38%。消融试验证明基于BERT的词嵌入层对岩石描述知识提取的性能提升影响显著，双向长短时记忆网络模型层（BiLSTM Layer）能提升实体关系联合提取性能。