结合本体概念和实例的网络空间知识图谱推理方法和装置.pdf

《结合本体概念和实例的网络空间知识图谱推理方法和装置.pdf》由会员分享，可在线阅读，更多相关《结合本体概念和实例的网络空间知识图谱推理方法和装置.pdf（14页完成版）》请在专利查询网上搜索。

1、(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 202010424098.9 (22)申请日 2020.05.18 (71)申请人 中国人民解放军国防科技大学 地址 410073 湖南省长沙市开福区德雅路 109号 (72)发明人 丁兆云周鋆潘永琪朱席席 张维明朱承刘斌黄松平 吕国栋朱先强 (74)专利代理机构 长沙国科天河知识产权代理 有限公司 43225 代理人 董惠文 (51)Int.Cl. G06F 16/36(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 5/。

2、04(2006.01) (54)发明名称 结合本体概念和实例的网络空间知识图谱 推理方法和装置 (57)摘要 本申请涉及一种结合本体概念和实例的网 络空间知识图谱推理方法和装置。 所述方法包 括： 将网络空间的本体概念映射至本体图； 从节 点对应的语料库提取实例层的实体， 根据本体边 和实体， 构建第二三元组； 构建用于网络空间知 识图谱推理的卷积神经网络模型， 根据第一三元 组和第二三元组， 确定卷积神经网络模型的统一 能量函数； 根据统一能量函数， 构建用于训练卷 积神经网络模型的得分函数； 根据得分函数的最 小化目标， 反向训练得到训练好的卷积神经网络 模型； 根据训练好的卷积神经网络模。

3、型， 进行网 络空间知识图谱推理。 采用本方法能够提高推理 的准确性。 权利要求书2页 说明书9页 附图2页 CN 111597352 A 2020.08.28 CN 111597352 A 1.一种结合本体概念和实例的网络空间知识图谱推理方法， 所述方法包括： 将网络空间的本体概念映射至本体图； 所述本体图由第一三元组表示， 所述第一三元 组由所述本体概念以及本体概念之间表示关系的本体边组成； 从所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建第二 三元组； 所述第二三元组包括由实体以及连接实体的所述本体边组成； 构建用于网络空间知识图谱推理的卷积神经网络模型， 根据。

4、所述第一三元组和所述第 二三元组， 确定所述卷积神经网络模型的统一能量函数； 根据所述统一能量函数， 构建用于训练所述卷积神经网络模型的得分函数； 根据所述得分函数的最小化目标， 反向训练得到训练好的卷积神经网络模型； 根据训练好的卷积神经网络模型， 进行网络空间知识图谱推理。 2.根据权利要求1所述的方法， 其特征在于， 从所述节点对应的语料库提取实例层的实 体， 根据所述本体边和所述实体， 构建第二三元组之后， 包括： 采用预先设置的损失函数训练预先设置的推理模型， 根据推理模型确定所述第二三元 组的关系是否成立。 3.根据权利要求2所述的方法， 其特征在于， 所述采用预先设置的损失函数训。

5、练预先设 置的推理模型， 包括： 获取预先设置的损失函数为： 其中， 表示正确三元组和错误三元组之间的最小距离， S表示训练样本集， S 表示错 误样本集， d(h+l,t)表示正确三元组中向量h+l,t之间的向量距离， d (h +l,t )表示错误 三元组中向量h +l,t 的向量距离， +表示取正数部分； 根据所述损失函数， 采用梯度下降方式训练预先设置的推理模型。 4.根据权利要求1至3任意一项所述的方法， 其特征在于， 根据所述第一三元组和所述 第二三元组， 确定所述卷积神经网络模型的统一能量函数， 包括： 根据所述第一三元组和所述第二三元组， 确定所述卷积神经网络模型的统一能量函数。

6、 为： EEI+EO 其中， E表示统一能量函数， EI表示实例层对应的实例能量函数， EO表示本体概念对应的 本体能量函数； 所述实例能量函数表示为： EI hI+r-tI 其中， hI表示头实体在实例层的向量表示， tI表示尾实体在实例层的向量表示， r表示所 述本体边对应的关系； 所述本体能量函数表示为： EOEOO+EIO+EOI 其中， EOO表示本体概念中头实体和尾实体的向量表示能量函数， EIO表示头实体在实例 层的向量表示与尾实体在本体概念的向量表示间的能量函数， EOI表示尾实体在实例层的向 量表示与头实体在本体概念的向量表示间的能量函数； 权利要求书 1/2 页 2 CN 。

7、111597352 A 2 其中： EOO hO+r-tO EIO hI+r-tO EOI hO+r-tI 其中， hO表示头实体在本体概念的向量表示， tO表示尾实体在本体概念的向量表示。 5.根据权利要求4所述的方法， 其特征在于， 构建用于网络空间知识图谱推理的卷积神 经网络模型， 包括： 构建用于网络空间知识图谱推理的卷积神经网络模型； 所述卷积神经网络模型依次包 括： 第一卷积层、 第一池化层、 第二卷积层、 第二池化层以及输出层。 6.根据权利要求5所述的方法， 其特征在于， 所述第一卷积层和所述第二卷积层的结构 为： 其中，第l个卷积层的输出，表示l个卷积层的输入窗口处理得到的输。

8、入向量， 表示偏置W(l)表示窗口处理后输入向量的卷积核， 表示非线性激活函数； 所述第一池化层为最大池化层， 所述第二池化层为平均池化层。 7.根据权利要求4至6任一项所述的方法， 其特征在于， 根据所述统一能量函数， 构建用 于训练所述卷积神经网络模型的得分函数， 包括： 根据所述统一能量函数， 构建用于训练所述卷积神经网络模型的得分函数为： 其中， E 表示错误的三元组对应的能量函数。 8.一种结合本体概念和实例的网络空间知识图谱推理装置， 其特征在于， 所述装置包 括： 联合嵌入模块， 用于将网络空间的本体概念映射至本体图； 所述本体图由第一三元组 表示， 所述第一三元组由所述本体概念。

9、以及本体概念之间表示关系的本体边组成； 从所述 节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建第二三元组； 所述 第二三元组包括由实体以及连接实体的所述本体边组成； 推理模块， 用于构建用于网络空间知识图谱推理的卷积神经网络模型， 根据所述第一 三元组和所述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 根据所述统一能 量函数， 构建用于训练所述卷积神经网络模型的得分函数； 根据所述得分函数的最小化目 标， 反向训练得到训练好的卷积神经网络模型； 根据训练好的卷积神经网络模型， 进行网络 空间知识图谱推理。 9.一种计算机设备， 包括存储器和处理器， 所述存储器存。

10、储有计算机程序， 其特征在 于， 所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。 权利要求书 2/2 页 3 CN 111597352 A 3 结合本体概念和实例的网络空间知识图谱推理方法和装置 技术领域 0001 本申请涉及知识图谱技术领域， 特别是涉及一种结合本体概念和实例的网络空间 知识图谱推理方法和装置。 背景技术 0002 网络空间已经成为与陆、 海、 空和太空并列的第五空间， 无论是国家安全和利益， 还是企业内部。

11、安全都日益与网络空间息息相关。 0003 传统的翻译类知识图谱表达模型尽管利用向量计算解决了大规模知识图谱推理 的时间性能问题， 但是， 这类模型在推理预测中表现的准确率欠佳， 比如TransE算法在典型 几种知识图谱上的Hits10(正确答案排在前10比例)均低于50， 网络空间防御策略必须 具备较高的准确率， 因此， 传统的知识图谱推理模型不能够较好地适用于网络空间知识推 理。 0004 另一方面， 网络空间知识图谱为领域知识图谱， 采用 “自顶向下” 式的构建方法； 同 时， 网络空间防御策略的推理必须具备高准确性， 而传统知识图谱表示模型在推理预测中 表现的准确率欠佳。 发明内容 00。

12、05 基于此， 有必要针对上述技术问题， 提供一种能够解决传统知识图谱表示模型在 推理预测中准确率不高问题的结合本体概念和实例的网络空间知识图谱推理方法和装置。 0006 一种结合本体概念和实例的网络空间知识图谱推理方法， 所述方法包括： 0007 将网络空间的本体概念映射至本体图； 所述本体图由第一三元组表示， 所述第一 三元组由所述本体概念以及本体概念之间表示关系的本体边组成； 0008 从所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建 第二三元组； 所述第二三元组包括由实体以及连接实体的所述本体边组成； 0009 构建用于网络空间知识图谱推理的卷积神经网络模型，。

13、 根据所述第一三元组和所 述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 0010 根据所述统一能量函数， 构建用于训练所述卷积神经网络模型的得分函数； 0011 根据所述得分函数的最小化目标， 反向训练得到训练好的卷积神经网络模型； 0012 根据训练好的卷积神经网络模型， 进行网络空间知识图谱推理。 0013 在其中一个实施例中， 还包括： 采用预先设置的损失函数训练预先设置的推理模 型， 根据推理模型确定所述第二三元组的关系是否成立。 0014 在其中一个实施例中， 还包括： 获取预先设置的损失函数为： 0015 0016 其中， 表示正确三元组和错误三元组之间的最小距离， S。

14、表示训练样本集， S 表 示错误样本集， d(h+l,t)表示正确三元组中向量h+l,t之间的向量距离， d (h +l,t )表示 说明书 1/9 页 4 CN 111597352 A 4 错误三元组中向量h +l,t 的向量距离， +表示取正数部分； 根据所述损失函数， 采用梯 度下降方式训练预先设置的推理模型。 0017 在其中一个实施例中， 还包括： 根据所述第一三元组和所述第二三元组， 确定所述 卷积神经网络模型的统一能量函数为： 0018 EEI+EO 0019 其中， E表示统一能量函数， EI表示实例层对应的实例能量函数， EO表示本体概念 对应的本体能量函数； 0020 所述。

15、实例能量函数表示为： 0021 EI hI+r-tI 0022 其中， hI表示头实体在实例层的向量表示， tI表示尾实体在实例层的向量表示， r表 示所述本体边对应的关系； 0023 所述本体能量函数表示为： 0024 EOEOO+EIO+EOI 0025 其中， EOO表示本体概念中头实体和尾实体的向量表示能量函数， EIO表示头实体在 实例层的向量表示与尾实体在本体概念的向量表示间的能量函数， EOI表示尾实体在实例层 的向量表示与头实体在本体概念的向量表示间的能量函数； 0026 其中： 0027 EOO hO+r-tO 0028 EIO hI+r-tO 0029 EOI hO+r-t。

16、I 0030 其中， hO表示头实体在本体概念的向量表示， tO表示尾实体在本体概念的向量表 示。 0031 在其中一个实施例中， 还包括： 构建用于网络空间知识图谱推理的卷积神经网络 模型； 所述卷积神经网络模型依次包括： 第一卷积层、 第一池化层、 第二卷积层、 第二池化层 以及输出层。 0032 在其中一个实施例中， 还包括： 所述第一卷积层和所述第二卷积层的结构为： 0033 0034其中，第l个卷积层的输出，表示l个卷积层的输入窗口处理得到的输入 向量，表示偏置W(l)表示窗口处理后输入向量的卷积核， 表示非线性激活函数； 0035 所述第一池化层为最大池化层， 所述第二池化层为平均。

17、池化层。 0036 在其中一个实施例中， 还包括： 根据所述统一能量函数， 构建用于训练所述卷积神 经网络模型的得分函数为： 0037 0038 其中， E 表示错误的三元组对应的能量函数。 0039 一种结合本体概念和实例的网络空间知识图谱推理装置， 所述装置包括： 说明书 2/9 页 5 CN 111597352 A 5 0040 联合嵌入模块， 用于将网络空间的本体概念映射至本体图； 所述本体图由第一三 元组表示， 所述第一三元组由所述本体概念以及本体概念之间表示关系的本体边组成； 从 所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建第二三元组； 所述第二三元组包。

18、括由实体以及连接实体的所述本体边组成； 0041 推理模块， 用于构建用于网络空间知识图谱推理的卷积神经网络模型， 根据所述 第一三元组和所述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 根据所述统 一能量函数， 构建用于训练所述卷积神经网络模型的得分函数； 根据所述得分函数的最小 化目标， 反向训练得到训练好的卷积神经网络模型； 根据训练好的卷积神经网络模型， 进行 网络空间知识图谱推理。 0042 一种计算机设备， 包括存储器和处理器， 所述存储器存储有计算机程序， 所述处理 器执行所述计算机程序时实现以下步骤： 0043 将网络空间的本体概念映射至本体图； 所述本体图由第一三元。

19、组表示， 所述第一 三元组由所述本体概念以及本体概念之间表示关系的本体边组成； 0044 从所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建 第二三元组； 所述第二三元组包括由实体以及连接实体的所述本体边组成； 0045 构建用于网络空间知识图谱推理的卷积神经网络模型， 根据所述第一三元组和所 述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 0046 根据所述统一能量函数， 构建用于训练所述卷积神经网络模型的得分函数； 0047 根据所述得分函数的最小化目标， 反向训练得到训练好的卷积神经网络模型； 0048 根据训练好的卷积神经网络模型， 进行网络空间知识图。

20、谱推理。 0049 一种计算机可读存储介质， 其上存储有计算机程序， 所述计算机程序被处理器执 行时实现以下步骤： 0050 将网络空间的本体概念映射至本体图； 所述本体图由第一三元组表示， 所述第一 三元组由所述本体概念以及本体概念之间表示关系的本体边组成； 0051 从所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建 第二三元组； 所述第二三元组包括由实体以及连接实体的所述本体边组成； 0052 构建用于网络空间知识图谱推理的卷积神经网络模型， 根据所述第一三元组和所 述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 0053 根据所述统一能量函数， 构建用。

21、于训练所述卷积神经网络模型的得分函数； 0054 根据所述得分函数的最小化目标， 反向训练得到训练好的卷积神经网络模型； 0055 根据训练好的卷积神经网络模型， 进行网络空间知识图谱推理。 0056 上述结合本体概念和实例的网络空间知识图谱推理方法和装置， 通过将本体概念 和实例层在同一表示空间中进行联合嵌入， 然后实现本体层与实例层的训练， 由于训练数 据包含本体概念， 因此， 推测更加准确。 附图说明 0057 图1为一个实施例中结合本体概念和实例的网络空间知识图谱推理方法的流程示 意图； 0058 图2为一个实施例中结合本体概念和实例的网络空间知识图谱推理装置的结构框 说明书 3/9 。

22、页 6 CN 111597352 A 6 图； 0059 图3为一个实施例中计算机设备的内部结构图。 具体实施方式 0060 为了使本申请的目的、 技术方案及优点更加清楚明白， 以下结合附图及实施例， 对 本申请进行进一步详细说明。 应当理解， 此处描述的具体实施例仅仅用以解释本申请， 并不 用于限定本申请。 0061 在一个实施例中， 如图1所示， 提供了一种结合本体概念和实例的网络空间知识图 谱推理方法， 包括以下步骤： 0062 步骤102， 将网络空间的本体概念映射至本体图。 0063 本体是是图谱上层的概念， 一般而言本体没有实际含义， 例如： 对于书籍的分类， 可以分为化学、 物理。

23、等， 化学、 物理就是一个本体概念， 然而在物理的领域内， 牛顿力学、 电 磁学、 热力学就是知识图谱中的实例层的实体。 0064 本体图由第一三元组表示， 第一三元组由本体概念以及本体概念之间表示关系的 本体边组成。 具体的， 可以采用随机游走构建本体图。 随机游走也称之为随机漫步， 在本体 概念投影时， 通过可以随机游走形成加权边。 0065 值得说明的是， 本体图中包含多个节点， 每个节点表示的是一个本体概念， 节点与 节点之间存在连接关系， 及上文所指的本体边， 一般而言， 由于本体概念是由领域专家构 建， 因此各个节点之间的本体边可以采用标签进行标记。 0066 本体映射至本体图具体。

24、可以采用嵌入的方式， 即将本体在表示空间中进行表示， 通常， 表示空间分为以下四种： 0067 一、 实值点空间， 主要包括向量空间、 矩阵空间和张量空间等。 0068 二、 复杂空间， 主要用复数的形式来表示知识， 例如三元组中的头实体可以表示为 hRe(h)+i Im(h)， 或者是更高维度的复杂空间， 如ha+b i+c j+d k。 0069 三、 高斯空间， 将实体和关系投射的满足高斯分布的表示空间。 0070 四、 其他一些不常用知识表示空间， 如流形空间等。 0071 本实施例中， 可以采用实值点空间来表示本体， 因此本体图中的节点可以采用三 元组进行表示，“第一” 和 “第二”。

25、 仅为了对两个三元组进行区分， 没有实际含义。 0072 具体的， 第一三元组中的元素均为实值点空间中的向量表示。 0073 步骤104， 从节点对应的语料库提取实例层的实体， 根据本体边和实体， 构建第二 三元组。 0074 值得说明的是， 第一三元组和第二三元组中的关系是相同的。 0075 步骤106， 构建用于网络空间知识图谱推理的卷积神经网络模型， 根据第一三元组 和所述第二三元组， 确定卷积神经网络模型的统一能量函数。 0076 能量函数是将系统内元素之间相异程度作为系统元素之间的能量， 根据能量函 数， 在能量函数的建模上， 可以对能量函数包含的信息进行编码， 从而构建适用卷积神经。

26、网 络模型。 0077 步骤108， 根据统一能量函数， 构建用于训练卷积神经网络模型的得分函数。 0078 步骤110， 根据得分函数的最小化目标， 反向训练得到训练好的卷积神经网络模 说明书 4/9 页 7 CN 111597352 A 7 型。 0079 步骤112， 根据训练好的卷积神经网络模型， 进行网络空间知识图谱推理。 0080 上述结合本体概念和实例的网络空间知识图谱推理方法中， 通过将本体概念和实 例层在同一表示空间中进行联合嵌入， 然后实现本体层与实例层的训练， 由于训练数据包 含本体概念， 因此， 推测更加准确。 0081 在其中一个实施例中， 在步骤104之后， 还需要。

27、采用预先设置的损失函数训练预先 设置的推理模型， 根据推理模型确定第二三元组的关系是否成立。 0082 具体的， 推理模型基于如下假设： 如果三元组(h， l， t)成立， 那么在知识表示空间 中， t和h+l的向量越接近， 否则就越远离。 0083 根据上述推理模型的假设， 在其中一个实施例中， 构建的损失函数如下： 0084 0085 其中， 表示正确三元组和错误三元组之间的最小距离， S表示训练样本集， S 表 示错误样本集， d(h+l,t)表示正确三元组中向量h+l,t之间的向量距离， d (h +l,t )表示 错误三元组中向量h +l,t 的向量距离， +表示取正数部分； 根据损。

28、失函数， 采用梯度下 降方式训练预先设置的推理模型。 本实施例中， 加入错误样本集可以加快训练收敛的速度。 0086 对于步骤106， 在其中一个实施例中， 在本体概念知识和实例层知识的统一表示空 间中， 构建卷积神经网络模型用于知识图谱关系的推理。 知识图谱本体中的关系和实例层 中的关系是一致的， 因为实例层的关系是直接继承了本体中关于概念之间关系的定义， 因 此， 在本体层知识表示矩阵和实例层知识表示矩阵中， 关系的向量表示应当是一致的。 定义 神经网络的能量函数为： 0087 EEI+EO 0088 其中， E表示统一能量函数， EI表示实例层对应的实例能量函数， EO表示本体概念对 应。

29、的本体能量函数； 0089 实例能量函数表示为： 0090 EI hI+r-tI 0091 其中， hI表示头实体在实例层的向量表示， tI表示尾实体在实例层的向量表示， r表 示所述本体边对应的关系； 0092 本体能量函数表示为： 0093 EOEOO+EIO+EOI 0094 其中， EOO表示本体概念中头实体和尾实体的向量表示能量函数， EIO表示头实体在 实例层的向量表示与尾实体在本体概念的向量表示间的能量函数， EOI表示尾实体在实例层 的向量表示与头实体在本体概念的向量表示间的能量函数； 0095 其中： 0096 EOO hO+r-tO 0097 EIO hI+r-tO 009。

30、8 EOI hO+r-tI 0099 其中， hO表示头实体在本体概念的向量表示， tO表示尾实体在本体概念的向量表 示。 说明书 5/9 页 8 CN 111597352 A 8 0100 在能量函数建模基础上， 采用卷积神经网络(CNN)编码模型对上述信息进行编码。 0101 在其中一个实施例中， 构建用于网络空间知识图谱推理的卷积神经网络模型； 卷 积神经网络模型依次包括： 第一卷积层、 第一池化层、 第二卷积层、 第二池化层以及输出层。 0102 具体的， 第一卷积层和第二卷积层的结构为： 0103 0104其中，第l个卷积层的输出，表示l个卷积层的输入窗口处理得到的输入 向量，表示偏。

31、置W(l)表示窗口处理后输入向量的卷积核， 表示非线性激活函数。 0105 第一池化层为最大池化层， 第二池化层为平均池化层。 0106 对于第一个池化层， 使用大小为n个非重叠窗口分割卷积层的输出向量。 在每个窗 口中， 取每个特征映射的最大值来组成一个新的向量， 定义最大池化来确定在一个大小为n 的窗口内每个输入向量的最重要的特征值： 0107 0108 最大池化可以缩小n倍的特征表示的大小， 因此， 可以降低复杂性的CNN编码器和 参数学习的成本。 0109 另一方面， 本体描述通常是复杂的、 分层的(概念分层)， 以至于描述中不同层次的 概念可能具有不同的局部信息， 仅仅使用最大池化会。

32、导致巨大的信息损失， 因此， 最后一个 池化层， 在激活之前使用平均池化而不是最大池化来构建实体表示： 0110 0111 所有包含不同局部信息的m个输入向量应该对最终的实体嵌入有贡献， 并且可以 在反向传播时进行更新。 0112 基于上述处理， 在其中一个实施例中， 根据统一能量函数， 构建用于训练所述卷积 神经网络模型的得分函数为： 0113 0114 其中， E 表示错误的三元组对应的能量函数。 0115 本实施例中， 加入错误的三元组对应的能量函数同样可以加快训练的收敛速度。 0116 应该理解的是， 虽然图1的流程图中的各个步骤按照箭头的指示依次显示， 但是这 些步骤并不是必然按照箭。

33、头指示的顺序依次执行。 除非本文中有明确的说明， 这些步骤的 执行并没有严格的顺序限制， 这些步骤可以以其它的顺序执行。 而且， 图1中的至少一部分 步骤可以包括多个子步骤或者多个阶段， 这些子步骤或者阶段并不必然是在同一时刻执行 完成， 而是可以在不同的时刻执行， 这些子步骤或者阶段的执行顺序也不必然是依次进行， 而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。 0117 在一个实施例中， 如图2所示， 提供了一种结合本体概念和实例的网络空间知识图 说明书 6/9 页 9 CN 111597352 A 9 谱推理装置， 包括： 联合嵌入模块202和推理模块204。

34、， 其中： 0118 联合嵌入模块202， 用于将网络空间的本体概念映射至本体图； 所述本体图由第一 三元组表示， 所述第一三元组由所述本体概念以及本体概念之间表示关系的本体边组成； 从所述节点对应的语料库提取实例层的实体， 根据所述本体边和所述实体， 构建第二三元 组； 所述第二三元组包括由实体以及连接实体的所述本体边组成； 0119 推理模块204， 用于构建用于网络空间知识图谱推理的卷积神经网络模型， 根据所 述第一三元组和所述第二三元组， 确定所述卷积神经网络模型的统一能量函数； 根据所述 统一能量函数， 构建用于训练所述卷积神经网络模型的得分函数； 根据所述得分函数的最 小化目标， 。

35、反向训练得到训练好的卷积神经网络模型； 根据训练好的卷积神经网络模型， 进 行网络空间知识图谱推理。 0120 在其中一个实施例中， 联合嵌入模块202还用于采用预先设置的损失函数训练预 先设置的推理模型， 根据推理模型确定所述第二三元组的关系是否成立。 0121 在其中一个实施例中， 联合嵌入模块202还用于获取预先设置的损失函数为： 0122 0123 其中， 表示正确三元组和错误三元组之间的最小距离， S表示训练样本集， S 表 示错误样本集， d(h+l,t)表示正确三元组中向量h+l,t之间的向量距离， d (h +l,t )表示 错误三元组中向量h +l,t 的向量距离， +表示取。

36、正数部分； 根据所述损失函数， 采用梯 度下降方式训练预先设置的推理模型。 0124 在其中一个实施例中， 推理模块204还用于根据所述第一三元组和所述第二三元 组， 确定所述卷积神经网络模型的统一能量函数为： 0125 EEI+EO 0126 其中， E表示统一能量函数， EI表示实例层对应的实例能量函数， EO表示本体概念对 应的本体能量函数； 0127 所述实例能量函数表示为： 0128 EI hI+r-tI 0129 其中， hI表示头实体在实例层的向量表示， tI表示尾实体在实例层的向量表示， r表 示所述本体边对应的关系； 0130 所述本体能量函数表示为： 0131 EOEOO+。

37、EIO+EOI 0132 其中， EOO表示本体概念中头实体和尾实体的向量表示能量函数， EIO表示头实体在 实例层的向量表示与尾实体在本体概念的向量表示间的能量函数， EOI表示尾实体在实例层 的向量表示与头实体在本体概念的向量表示间的能量函数； 0133 其中： 0134 EOO hO+r-tO 0135 EIO hI+r-tO 0136 EOI hO+r-tI 0137 其中， hO表示头实体在本体概念的向量表示， tO表示尾实体在本体概念的向量表 示。 说明书 7/9 页 10 CN 111597352 A 10 0138 在其中一个实施例中， 推理模块204还用于构建用于网络空间知识。

38、图谱推理的卷 积神经网络模型； 所述卷积神经网络模型依次包括： 第一卷积层、 第一池化层、 第二卷积层、 第二池化层以及输出层。 0139 在其中一个实施例中， 所述第一卷积层和所述第二卷积层的结构为： 0140 0141其中，第l个卷积层的输出，表示l个卷积层的输入窗口处理得到的输入 向量，表示偏置W(l)表示窗口处理后输入向量的卷积核， 表示非线性激活函数； 0142 所述第一池化层为最大池化层， 所述第二池化层为平均池化层。 0143 在其中一个实施例中， 推理模块204还用于根据所述统一能量函数， 构建用于训练 所述卷积神经网络模型的得分函数为： 0144 0145 其中， E 表示错。

39、误的三元组对应的能量函数。 0146 关于结合本体概念和实例的网络空间知识图谱推理装置的具体限定可以参见上 文中对于结合本体概念和实例的网络空间知识图谱推理方法的限定， 在此不再赘述。 上述 结合本体概念和实例的网络空间知识图谱推理装置中的各个模块可全部或部分通过软件、 硬件及其组合来实现。 上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器 中， 也可以以软件形式存储于计算机设备中的存储器中， 以便于处理器调用执行以上各个 模块对应的操作。 0147 在一个实施例中， 提供了一种计算机设备， 该计算机设备可以是终端， 其内部结构 图可以如图3所示。 该计算机设备包括通过系统总线连接的处。

40、理器、 存储器、 网络接口、 显示 屏和输入装置。 其中， 该计算机设备的处理器用于提供计算和控制能力。 该计算机设备的存 储器包括非易失性存储介质、 内存储器。 该非易失性存储介质存储有操作系统和计算机程 序。 该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。 该计算 机设备的网络接口用于与外部的终端通过网络连接通信。 该计算机程序被处理器执行时以 实现一种结合本体概念和实例的网络空间知识图谱推理方法。 该计算机设备的显示屏可以 是液晶显示屏或者电子墨水显示屏， 该计算机设备的输入装置可以是显示屏上覆盖的触摸 层， 也可以是计算机设备外壳上设置的按键、 轨迹球或触控板， 。

41、还可以是外接的键盘、 触控 板或鼠标等。 0148 本领域技术人员可以理解， 图3中示出的结构， 仅仅是与本申请方案相关的部分结 构的框图， 并不构成对本申请方案所应用于其上的计算机设备的限定， 具体的计算机设备 可以包括比图中所示更多或更少的部件， 或者组合某些部件， 或者具有不同的部件布置。 0149 在一个实施例中， 提供了一种计算机设备， 包括存储器和处理器， 该存储器存储有 计算机程序， 该处理器执行计算机程序时实现上述实施例中方法的步骤。 0150 在一个实施例中， 提供了一种计算机可读存储介质， 其上存储有计算机程序， 计算 机程序被处理器执行时实现实现上述实施例中方法的步骤。 。

42、说明书 8/9 页 11 CN 111597352 A 11 0151 本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程， 是可以 通过计算机程序来指令相关的硬件来完成， 所述的计算机程序可存储于一非易失性计算机 可读取存储介质中， 该计算机程序在执行时， 可包括如上述各方法的实施例的流程。 其中， 本申请所提供的各实施例中所使用的对存储器、 存储、 数据库或其它介质的任何引用， 均可 包括非易失性和/或易失性存储器。 非易失性存储器可包括只读存储器(ROM)、 可编程ROM (PROM)、 电可编程ROM(EPROM)、 电可擦除可编程ROM(EEPROM)或闪存。 易失性存储。

43、器可包括 随机存取存储器(RAM)或者外部高速缓冲存储器。 作为说明而非局限， RAM以多种形式可得， 诸如静态RAM(SRAM)、 动态RAM(DRAM)、 同步DRAM(SDRAM)、 双数据率SDRAM(DDRSDRAM)、 增强 型SDRAM(ESDRAM)、 同步链路(Synchlink)DRAM(SLDRAM)、 存储器总线(Rambus)直接RAM (RDRAM)、 直接存储器总线动态RAM(DRDRAM)、 以及存储器总线动态RAM(RDRAM)等。 0152 以上实施例的各技术特征可以进行任意的组合， 为使描述简洁， 未对上述实施例 中的各个技术特征所有可能的组合都进行描述，。

44、 然而， 只要这些技术特征的组合不存在矛 盾， 都应当认为是本说明书记载的范围。 0153 以上所述实施例仅表达了本申请的几种实施方式， 其描述较为具体和详细， 但并 不能因此而理解为对发明专利范围的限制。 应当指出的是， 对于本领域的普通技术人员来 说， 在不脱离本申请构思的前提下， 还可以做出若干变形和改进， 这些都属于本申请的保护 范围。 因此， 本申请专利的保护范围应以所附权利要求为准。 说明书 9/9 页 12 CN 111597352 A 12 图1 图2 说明书附图 1/2 页 13 CN 111597352 A 13 图3 说明书附图 2/2 页 14 CN 111597352 A 14 。