面向机器学习的知识图谱与问答系统设计

摘 要：作为一种结构化的语义知识库，知识图谱近年来被多个领域所应用，然而在机器学习这一专有领域仍存在空缺。文章描述了如何构建一个面向机器学习领域的知识图谱，并基于该图谱设计了一个问答系统。在图谱的构建过程中，主要使用了爬虫技术以及部分 NL.P 方法对数据进行采集和处理，最终得到1个包含2442 个实体的知识图谱，并将其存储在 Neo4i 图数据库中。针对间答系统设计部分结合基于规则正则匹配以及基于词向量相似度匹配的方法，构建了问答模块。该领域图谱的构建和问答系统的设计，将使研究人员和爱好者更轻松地获取高质量的机器学习领域的知识。

关键词：知识图谱：问答系统;机器学习

中图法分类号：TP18文献标识码：A

１ 引言

知识图谱的起源可追溯到２０ 世纪３０ 年代，但其正式概念是由Ｇｏｏｇｌｅ 于２０１２ 年提出的。它被描述为一个提供智能搜索服务的大型知识库，可以将独立的知识以三元组的形式形成语义知识的一种形式化描述框架，形式化地描述真实世界中各类事物及其关联关系［１］ 。领域知识图谱是特定领域应用的知识图谱，在金融、军事、医疗等多个领域都得到了应用，如ＩＢＭＷａｔｓｏｎ Ｈｅａｌｔｈ 医疗知识图谱［２］ 。由于知识图谱的结构化程度高且知识质量高，基于知识图谱的问答系统越来越受到人们的青睐，它弥补了传统问答系统检索效率低和检索知识质量不高的缺点。

如今，机器学习的热度不断上升，然而当前机器学习领域图谱的开发仍处于空白阶段。为了使机器学习专有领域的知识能够形成一个结构化的语义网络，以及为机器学习领域的相关研究提供便利，本文将介绍机器学习领域图谱的构建过程，并基于图谱设计一个问答系统。

２ 基本技术概述

２．１ 知识图谱构建理论

知识图谱的构建通常包含知识抽取、知识融合、知识加工和知识更新等步骤［３］ 。获取相关语料后，需要对语料进行预处理，然后进入知识抽取环节。知识抽取主要包括实体识别、关系抽取以及属性抽取３ 类任务。实体识别用于识别文本中的特殊实体，关系抽取用于从文本中识别实体之间的关系，属性抽取用于从文本中提取实体的属性。

这些任务的完成早期依赖于专家手工定义规则，而基于机器学习方法的技术现在更为实用。本文主要使用基于机器学习的方法进行知识抽取，同时使用了ＯＣＲ 技术以及爬虫技术。在知识融合阶段，主要工作有实体对齐、实体消歧，本文通过基于机器学习的方法来完成这些任务。完成上述工作后，需要将知识图谱数据存储到数据库中。根据存储方式的不同，知识图谱通常可以存储在ＲＤＦ 数据库、关系型数据库或者图数据库中。本文使用Ｎｅｏ４ｊ 图数据库对知识图谱进行存储［４］ 。

２．２ 基于知识图谱的问答系统设计理论

构建基于知识图谱的问答系统通常有３ 种方法：基于模板匹配；基于语义解析；基于向量建模［５］ 。本文将结合基于规则正则匹配的方法和基于Ｗｏｒｄ２Ｖｅｃ向量建模的方法，提升智能问答的应答率、准确率。

３ 机器学习领域图谱构建

本文采用自底向上的框架构建机器学习领域的知识图谱，基本流程如图１ 所示。

３．１ 数据采集

构建知识图谱首先需要收集相关语料。为了保证实体词的专业性，本文参考了机器之心团队编写的专有术语库，其中收纳了２ ４４２ 个机器学习专有领域的术语，这些术语来源于领域专家以及权威教科书等，并经过了校对等工作，具有较强的专业性与公信力。本文以这些术语为基础，建立关键词表，并将其作为图谱的实体词库。

以实体词库中的专业词汇为关键词，利用网络爬虫技术从万方、维普数据库中获取了２３ ５７９ 篇包含这些关键词的期刊文献，并使用ｒｅｑｕｅｓｔ 库、ＢＳ４ 库等工具对每个实体词的百度百科词条以及维基百科词条进行爬取，在后续知识抽取的步骤中会对这些数据进行进一步处理。

３．２ 知识抽取

知识抽取工作共分为３ 个部分：实体识别、关系抽取和属性抽取。实体识别部分首先采用ＯＣＲ 技术，对采集的２３ ５７９ 篇领域期刊文献进行文本的提取，文本使用Ｓｔａｎｆｏｒｄ ＣｏｒｅＮＬＰ［６］ 进行实体识别，借助构建好的实体词库进行筛选，并进行数据清洗、语句分词、去停用词等工作，过滤出与实体词相关的语料。针对关系抽取部分，本文采用上下位关系来表示实体之间的关系。上下位关系即包含与被包含的层级关系，即一个概念或实体（上位词或父类）包含另一个概念或实体（下位词或子类）的关系。例如，“机器学习”为一级实体节点，“神经网络”作为二级实体节点是“机器学习”这一实体的分支，可以作为其下位词。本文使用Ｓｔａｎｆｏｒｄ ＣｏｒｅＮＬＰ 对实体识别中过滤好的语料进行依存句法分析，提取出实体词之间的上下位关系。

针对属性抽取部分，首先抽取所有实体词的基础属性。基础属性从先前爬取的百度百科即维基百科语料中进行抽取， 其主要包含名稱（ ｎａｍｅ）、定义（ｄｅｆｉｎｉｔｉｏｎ）、应用（ａｐｐｌｉｃａｔｉｏｎ）。对于实体词中的具体算法或算法分支，它们通常为４ 级节点或更低层级的节点，除基础属性外还添加了“期刊属性”，将以该节点为关键词的专业期刊数据收录到属性中，其主要包含标题（ｔｉｔｌｅ）、发表时间（ｄａｔｅ）、作者（ａｕｔｈｏｒ）、摘要（ａｂｓｔｒａｃｔ）。

３．３ 知识融合

在知识融合阶段，实体消歧任务是本文的主要工作。知识图谱中，实体词有可能出现实体二义性，即一个实体可能在不同语境下代表的意思不同。例如，ｂｉａｓ（偏差）在统计学和机器学习中通常指预测值与实际值之间的差距，但在其他上下文中也可能指偏见或倾向。

为解决歧义问题，本文采用基于知识库链接的实体消歧方法，这种方法通过将自然语言文本中的实体链接到实体词库中对应的实体来消除歧义。ＣＮ?ＤＢｐｅｉｄａ 提供了Ｍｅｎｔｉｏｎ２Ｅｎｔｉｔｙ 数据集，其含有大量歧义词的字典，可以用来解决歧义问题［７］ 。

３．４ 图谱入库

对于知识图谱的存储，本文使用图数据库Ｎｅｏ４ｊ进行存储入库。Ｎｅｏ４ｊ 将图作为数据结构，充分利用了图数据结构的特性，使用图节点、边、节点属性与边属性来表示数据，并将Ｃｙｐｈｅｒ 作为数据库查询语言。经过３．１～３．３ 节的处理后，可以得到关于实体词库中２ ４４２ 个节点“实体?边?实体”的三元组数据，其已经储存了节点属性的数据文件，通过ｐｙ２ｎｅｏ 库将这些数据批量导入Ｎｅｏ４ｊ 数据库，即完成了知识图谱的存储。存储完毕后，随机抽取２００ 组实体关键词并对其进行查询，均成功返回结果，平均返回时长为２６９ 毫秒，响应速度快。部分知识图谱示例如图２ 所示。

４ 问答系统设计

基于构建好的机器学习领域图谱，设计一个问答系统，旨在帮助研究人员和机器学习爱好者更轻松地获取高质量的机器学习领域知识。问答系统设计逻辑如图３ 所示。

４．１ 问句预处理

用户输入自然语言问句后，需要提取问句的语义信息，以及进行命名实体识别工作。在本问答系统中，将ｊｉｅｂａ 库作为解决方案。ｊｉｅｂａ 库是一个中文分词工具库，使用Ｐｙｔｈｏｎ 实现，支持自定义词典，可以根据实际需求添加或删除一些自定义词汇，以便更好地满足特定领域的分词需求。通过ｊｉｅｂａ 库对用户输入的自然语言问句进行分词，并提取其中的命名实体，可以获取更准确的语义信息。

４．２ 意图识别与答案推理

对于问句的意图识别，本系统结合了基于规则集的方法以及向量相似度匹配。问句预处理得到分词与词性标注结果后，进行实体的关键词抽取，首先采用基于规则集的方法，对问句进行正则匹配，若成功匹配，则说明问句在预设规则库中，可以直接根据规则模板将原本的自然语言问句转换为Ｃｙｐｈｅｒ 查询语句，进而链接到Ｎｅｏ４ｊ 数据库中并推理得到问题答案。部分规则集示例如表１ 所列。

然而，仅使用规则模板库来理解用户输入问句的成功率非常低。如果未匹配到规则集，系统将采用向量相似度匹配。本系统使用Ｗｏｒｄ２Ｖｅｃ 模块来实现这一点。Ｗｏｒｄ２Ｖｅｃ 是一种双层神经网络词向量模型，可以将词映射为一个向量来表示词间联系，映射的向量为神经网络中的隐藏层［８］ 。若输入问句不能匹配规则集，则使用预训练的词向量模型计算问句与知识库中问题的相似度，本文调试时使用余弦相似度计算，匹配得到与问句最相似的问题，并链接Ｎｅｏ４ｊ 数据库，最终得到答案。

４．３ 结果分析

对每类问题，设置了１００ 道测试问句，对问答系统进行测试，测试结果如表２ 所列。

对于实体信息类、属性信息类以及应用信息类问题，可以发现应答率和准确率较高；而对于比较信息类问题，应答率和准确率显著下降。

５ 结束语

本文通过网络爬虫、ＮＬＰ 等技术构建了一个机器学习专有领域的知识图谱，并基于该图谱设计了一个问答系统，为机器学习的研究者和爱好者提供了一个快速、准确查询领域知识的平台。然而构建的图谱在时效上具有局限性，由于缺乏知识更新的手段，无法获取最新的专业术语以及期刊信息，需要每隔一段时间进行人工更新工作。另外，设计的问答系统对于处理逻辑较强的问题效果欠佳，可以考虑引入更强大的语义理解模型，以提高系统的应答率与准确率。

参考文献：

［１］ 田玲，张谨川，张晋豪，等．知识图谱综述———表示、构建、推理与知识超图理论［Ｊ］．计算机应用，２０２１，４１（８）：２１６１?２１８６．

［２］ ＩＢＭ． Ｗａｔｓｏｎ Ｈｅａｌｔｈ 医疗保健数据分析的重要性［ＥＢ／ＯＬ］． ｈｔｔｐｓ： ∥ ｗｗｗ． ｉｂｍ． ｃｏｍ／ ｃｎ?ｚｈ／ ｗａｔｓｏｎ?ｈｅａｌｔｈ／ ｌｅａｒｎ／ｈｅａｌｔｈｃａｒｅ?ｄａｔａ?ａｎａｌｙｔｉｃｓ．

［３］ ＳＩＮＧＨＡＬ Ａ． Ｉｎｔｒｏｄｕｃｉｎｇ ｔｈｅ ｋｎｏｗｌｅｄｇｅ ｇｒａｐｈ： ｔｈｉｎｇｓ， ｎｏｔｓｔｒｉｎｇｓ ［ＥＢ／ ＯＬ］．ｈｔｔｐｓ：∥ｗｗｗ．ｂｌｏｇ．ｇｏｏｇｌｅ／ ｐｒｏｄｕｃｔｓ／ ｓｅａｒｃｈ／ｉｎｔｒｏｄｕｃｉｎｇ?ｋｎｏｗｌｅｄｇｅ?ｇｒａｐｈ?ｔｈｉｎｇｓ?ｎｏｔ／ ．

［４］ Ｎｅｏ４ｊ．Ｎｅｏ４ｊ［ＤＢ／ ＯＬ］．ｈｔｔｐｓ：∥ｎｅｏ４ｊ．ｃｏｍ／ ．

［５］ 袁博，施运梅，张乐．基于知识图谱的问答系统研究与应用［Ｊ］．计算机技术与发展，２０２１，３１（１０）：１３４?１４０．

［６］ ＭＡＮＮＩＮＧ Ｃ Ｄ，ＳＵＲＤＥＡＮＵ Ｍ，ＢＡＵＥＲ Ｊ，ｅｔ ａｌ．Ｔｈｅ ＳｔａｎｆｏｒｄＣｏｒｅＮＬＰ ｎａｔｕｒａｌ ｌａｎｇｕａｇｅ ｐｒｏｃｅｓｓｉｎｇ ｔｏｏｌｋｉｔ ［ Ｃ ］ ∥Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ５２ｎｄ ａｎｎｕａｌ ｍｅｅｔｉｎｇ ｏｆ ｔｈｅ ａｓｓｏｃｉａｔｉｏｎ ｆｏｒｃｏｍｐｕｔａｔｉｏｎａｌ ｌｉｎｇｕｉｓｔｉｃｓ：ｓｙｓｔｅｍ ｄｅｍｏｎｓｔｒａｔｉｏｎｓ．２０１４：５５?６０．

［７］ ＸＵ Ｂ，ＸＵ Ｙ，ＬＩＡＮＧ Ｊ，ｅｔ ａｌ．ＣＮ?ＤＢｐｅｄｉａ：Ａ ｎｅｖｅｒ?ｅｎｄｉｎｇＣｈｉｎｅｓｅ ｋｎｏｗｌｅｄｇｅ ｅｘｔｒａｃｔｉｏｎ ｓｙｓｔｅｍ ［ Ｃ］ ∥ Ａｄｖａｎｃｅｓ ｉｎＡｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ： Ｆｒｏｍ Ｔｈｅｏｒｙ ｔｏ Ｐｒａｃｔｉｃｅ： ３０ｔｈＩｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｉｎｄｕｓｔｒｉａｌ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ ＯｔｈｅｒＡｐｐｌｉｃａｔｉｏｎｓ ｏｆ Ａｐｐｌｉｅｄ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ，ＩＥＡ／ ＡＩＥ ２０１７，Ａｒｒａｓ，Ｆｒａｎｃｅ，Ｊｕｎｅ ２７?３０，２０１７，Ｐｒｏｃｅｅｄｉｎｇｓ，Ｐａｒｔ ＩＩ．Ｃｈａｍ：Ｓｐｒｉｎｇｅｒ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｐｕｂｌｉｓｈｉｎｇ，２０１７：４２８?４３８．

［ ８ ］ ＲＯＮＧ Ｘ． ＷＯＲＤ２ＶＥＣ ＰＡＲＡＭＥＴＥＲ ＬＥＡＲＮＩＮＧＥＸＰＬＡＩＮＥＤ ［ ＥＢ／ ＯＬ］． ＨＴＴＰＳ： ∥ ＺＨＵＡＮＬＡＮ． ＺＨＩＨＵ．ＣＯＭ／ Ｐ／１８３１６１３１１．

作者简介：

黄宇皓（２００１—），本科，研究方向：大数据分析。