图像识别安全控制与管理方法、装置、设备及存储介质.pdf

《图像识别安全控制与管理方法、装置、设备及存储介质.pdf》由会员分享，可在线阅读，更多相关《图像识别安全控制与管理方法、装置、设备及存储介质.pdf（17页完成版）》请在专利查询网上搜索。

1、(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 201911190108.0 (22)申请日 2019.11.28 (71)申请人 泰康保险集团股份有限公司 地址 100031 北京市西城区复兴门内大街 156号泰康人寿大厦 (72)发明人 常谦李夫路 (74)专利代理机构 北京同立钧成知识产权代理 有限公司 11205 代理人 张子青刘芳 (51)Int.Cl. G06K 9/62(2006.01) (54)发明名称 图像识别安全控制与管理方法、 装置、 设备 及存储介质 (57)摘要 本发明实施例提供一种图像识别安全控制 。

2、与管理方法、 装置、 设备及存储介质。 通过将所述 多个历史数据中的对抗图像数据生成算法构成 第一算法集合， 将所述多个历史数据中的修正后 的对抗图像数据识别算法构成第二算法集合， 确 定目标图像是否是由所述第一算法集合中的对 抗图像数据生成算法生成的对抗图像， 若所述目 标图像是由所述第一算法集合中的对抗图像数 据生成算法生成的对抗图像， 则向访问节点发送 提示信息和所述对抗图像数据生成算法对应的 修正后的对抗图像数据识别算法， 从而实现了对 图像识别进行安全控制与管理的方法， 降低了对 抗图像会对图像识别系统造成的安全隐患。 权利要求书2页 说明书9页 附图5页 CN 111079798 。

3、A 2020.04.28 CN 111079798 A 1.一种图像识别安全控制与管理方法， 其特征在于， 包括： 获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包括： 原始图像数据、 所 述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的 识别结果、 修正后的对抗图像数据识别算法； 将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合， 将所述多个历史 数据中的修正后的对抗图像数据识别算法构成第二算法集合； 确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图 像； 若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法。

4、生成的对抗图像， 则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据 识别算法。 2.根据权利要求1所述的方法， 其特征在于， 所述多个历史数据存储在区块链中。 3.根据权利要求1所述的方法， 其特征在于， 所述目标图像存储在区块链中。 4.根据权利要求1-3任一项所述的方法， 其特征在于， 所述方法还包括： 若所述目标图像不是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图 像， 则确定所述目标图像对应的对抗图像的生成算法； 根据所述目标图像对应的对抗图像的生成算法， 更新所述第一算法集合； 根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识。

5、别算 法， 更新所述第二算法集合。 5.根据权利要求1所述的方法， 其特征在于， 所述获取多个历史数据中的对抗图像数据 生成算法之前， 所述方法还包括： 接收终端设备在区块链网络中广播的原始图像数据、 所述原始图像数据对应的对抗图 像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像数 据识别算法； 将所述原始图像数据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生 成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像数据识别算法作为历史数据存 储到区块链的区块中。 6.根据权利要求1所述的方法， 其特征在于， 所述向访问节点发送提示信息和所述对。

6、抗 图像数据生成算法对应的修正后的对抗图像数据识别算法， 包括： 采用所述访问节点的公钥对所述提示信息和所述对抗图像数据生成算法对应的修正 后的对抗图像数据识别算法进行加密。 7.根据权利要求6所述的方法， 其特征在于， 所述向访问节点发送提示信息和所述对抗 图像数据生成算法对应的修正后的对抗图像数据识别算法， 还包括： 将加密后的所述提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数 据识别算法发送给所述访问节点。 8.一种图像识别安全控制与管理装置， 其特征在于， 包括： 获取模块， 用于获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包括： 原 始图像数据、 所述原始图像。

7、数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对 抗图像数据的识别结果、 修正后的对抗图像数据识别算法； 权利要求书 1/2 页 2 CN 111079798 A 2 生成模块， 用于将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合， 将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合； 确定模块， 用于确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法 生成的对抗图像； 发送模块， 用于所述确定模块确定所述目标图像是由所述第一算法集合中的对抗图像 数据生成算法生成的对抗图像时， 向访问节点发送提示信息和所述对抗图像数据生成算法 对应的修正后的对。

8、抗图像数据识别算法。 9.一种区块链节点， 其特征在于， 包括： 存储器； 处理器； 以及 计算机程序； 其中， 所述计算机程序存储在所述存储器中， 并被配置为由所述处理器执行以实现如 权利要求1-7中任一所述的方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 被处理器执行时实现如权利要求1-7任一项所述的方法。 权利要求书 2/2 页 3 CN 111079798 A 3 图像识别安全控制与管理方法、 装置、 设备及存储介质 技术领域 0001 本发明实施例涉及通信技术领域， 尤其涉及一种图像识别安全控制与管理方法、 装置、 设备及存储介质。 背景。

9、技术 0002 现有技术中， 图像识别技术已经成为一种比较成熟的技术。 但是对抗图像会对图 像识别系统造成一定的安全隐患， 导致图像识别系统错误识别图像。 0003 为了解决该问题， 现有技术中亟需一种能够对图像识别进行安全控制与管理的方 法。 发明内容 0004 本发明实施例提供一种图像识别安全控制与管理方法、 装置、 设备及存储介质， 以 实现对图像识别进行安全控制与管理的方法， 降低对抗图像会对图像识别系统造成的安全 隐患。 0005 第一方面， 本发明实施例提供一种图像识别安全控制与管理方法， 包括： 0006 获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包括： 原始图像数。

10、 据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数 据的识别结果、 修正后的对抗图像数据识别算法； 0007 将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合， 将所述多个 历史数据中的修正后的对抗图像数据识别算法构成第二算法集合； 0008 确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对 抗图像； 0009 若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗 图像， 则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像 数据识别算法。 0010 第二方面， 本发明实施例提供一种图像识别。

11、安全控制与管理装置， 包括： 0011 获取模块， 用于获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包 括： 原始图像数据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像数据识别算法； 0012 生成模块， 用于将所述多个历史数据中的对抗图像数据生成算法构成第一算法集 合， 将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合； 0013 确定模块， 用于确定目标图像是否是由所述第一算法集合中的对抗图像数据生成 算法生成的对抗图像； 0014 发送模块， 用于所述确定模块确定所述目标图像是由所述第一算。

12、法集合中的对抗 图像数据生成算法生成的对抗图像时， 向访问节点发送提示信息和所述对抗图像数据生成 算法对应的修正后的对抗图像数据识别算法。 说明书 1/9 页 4 CN 111079798 A 4 0015 第三方面， 本发明实施例提供一种区块链节点， 包括： 0016 存储器； 0017 处理器； 以及 0018 计算机程序； 0019 其中， 所述计算机程序存储在所述存储器中， 并被配置为由所述处理器执行以实 现如第一方面所述的方法。 0020 第四方面， 本发明实施例提供一种计算机可读存储介质， 其上存储有计算机程序， 所述计算机程序被处理器执行以实现第一方面所述的方法。 0021 本发。

13、明实施例提供的图像识别安全控制与管理方法、 装置、 设备及存储介质， 通过 将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合， 将所述多个历史数据 中的修正后的对抗图像数据识别算法构成第二算法集合， 确定目标图像是否是由所述第一 算法集合中的对抗图像数据生成算法生成的对抗图像， 若所述目标图像是由所述第一算法 集合中的对抗图像数据生成算法生成的对抗图像， 则向访问节点发送提示信息和所述对抗 图像数据生成算法对应的修正后的对抗图像数据识别算法， 从而实现了对图像识别进行安 全控制与管理的方法， 降低了对抗图像会对图像识别系统造成的安全隐患。 附图说明 0022 图1为本发明实施例提供的。

14、一种应用场景的示意图； 0023 图2为本发明实施例提供的图像识别安全控制与管理方法流程图； 0024 图3为本发明另一实施例提供的图像识别安全控制与管理方法流程图； 0025 图4为本发明另一实施例提供的图像识别安全控制与管理方法流程图； 0026 图5为本发明另一实施例提供的图像识别安全控制与管理方法流程图； 0027 图6为本发明实施例提供的图像识别安全控制与管理装置的结构示意图； 0028 图7为本发明另一实施例提供的图像识别安全控制与管理装置的结构示意图； 0029 图8为本发明实施例提供的区块链节点的结构示意图。 0030 通过上述附图， 已示出本公开明确的实施例， 后文中将有更详。

15、细的描述。 这些附图 和文字描述并不是为了通过任何方式限制本公开构思的范围， 而是通过参考特定实施例为 本领域技术人员说明本公开的概念。 具体实施方式 0031 这里将详细地对示例性实施例进行说明， 其示例表示在附图中。 下面的描述涉及 附图时， 除非另有表示， 不同附图中的相同数字表示相同或相似的要素。 以下示例性实施例 中所描述的实施方式并不代表与本公开相一致的所有实施方式。 相反， 它们仅是与如所附 权利要求书中所详述的、 本公开的一些方面相一致的装置和方法的例子。 0032 本发明实施例提供的图像识别安全控制与管理方法， 可以适用于图1所示的通信 系统。 如图1所示， 该通信系统包括：。

16、 终端设备、 区块链节点、 访问节点。 其中， 终端设备、 区块 链节点、 访问节点均是区块链网络中的节点。 此处只是示意性说明， 并不限定区块链网络的 结构和该区块链网络中的节点个数。 每个区块链节点或访问节点具体可以是云端服务器。 云端服务器也就是云服务器,是一个服务器集群,有很多服务器,和通用的计算机架构类 说明书 2/9 页 5 CN 111079798 A 5 似,云端服务器的构成包括处理器、 硬盘、 内存、 系统总线等。 0033 本发明实施例提供的图像识别安全控制与管理方法， 旨在解决现有技术的如上技 术问题。 0034 下面以具体地实施例对本发明的技术方案以及本申请的技术方案如。

17、何解决上述 技术问题进行详细说明。 下面这几个具体的实施例可以相互结合， 对于相同或相似的概念 或过程可能在某些实施例中不再赘述。 下面将结合附图， 对本发明的实施例进行描述。 0035 图2为本发明实施例提供的图像识别安全控制与管理方法流程图。 本发明实施例 针对现有技术的如上技术问题， 提供了图像识别安全控制与管理方法， 该方法具体步骤如 下： 0036 步骤201、 获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包括： 原 始图像数据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对 抗图像数据的识别结果、 修正后的对抗图像数据识别算法。 0037 在。

18、本实施例中， 如图1所示的区块链节点或访问节点具体可以是以公司基层营业 机构为单位的最小节点， 如图1所示的区块链网络可以是一个或多个集团、 公司参与构建的 区块链网络。 该区块链网络中的全部节点或部分节点可构成区块链网络构建子系统， 也就 是说， 该区块链网络由该区块链网络构建子系统进行构建。 0038 该区块链网络中的部分节点还可以构成信息存储和信息认证数据格式定义子系 统， 该信息存储和信息认证数据格式定义子系统中可存储有该区块链网络中的数据结构方 式、 信息存储方式和协议。 该区块链网络中的每个节点可按照该数据结构方式、 信息存储方 式和协议来存储和认证共享信息等， 以保证信息存储和信。

19、息处理的高效率。 0039 另外， 该区块链网络中的部分节点还可以构成图像识别安全控制与管理信息存储 子系统。 该区块链网络中的节点， 例如系统中注册的企业或个人可以将历史的原始图像数 据、 该原始图像数据对应的对抗图像数据、 对抗图像数据的识别结果、 可以识别对抗图像数 据的特征点细节的改进方案、 对抗图像数据生成算法上传到该区块链网络中， 也可以将更 新后的原始图像数据、 该原始图像数据对应的对抗图像数据、 对抗图像数据的识别结果、 可 以识别对抗图像数据的特征点细节的改进方案、 对抗图像数据生成算法上传到该区块链网 络中。 此外， 该区块链网络中的节点还可以将证明相关材料的音频、 视频、。

20、 图像等相关材料 也可以上传至区块链。 该区块链网络中的图像识别安全控制与管理信息存储子系统具体用 于存储历史的或更新后的原始图像数据、 该原始图像数据对应的对抗图像数据、 对抗图像 数据的识别结果、 可以识别对抗图像数据的特征点细节的改进方案、 对抗图像数据生成算 法， 以及证明相关材料的音频、 视频、 图像等相关材料。 具体的， 该区块链网络中的图像识别 安全控制与管理信息存储子系统以区块链的形式存储这些信息。 0040 另外， 该区块链网络中的一些节点还可以构成图像识别安全控制与管理子系统。 该图像识别安全控制与管理子系统可获取区块链网络中多个历史数据中的对抗图像数据 生成算法， 每个历。

21、史数据包括： 原始图像数据、 所述原始图像数据对应的对抗图像数据、 所 述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像数据识别算 法。 0041 步骤202、 将所述多个历史数据中的对抗图像数据生成算法构成第一算法集合， 将 所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合。 说明书 3/9 页 6 CN 111079798 A 6 0042 进一步， 该图像识别安全控制与管理子系统还可以对每个历史数据中的对抗图像 数据生成算法进行分类。 例如， 可以将对抗图像数据生成算法分为n大类， 该n大类构成第一 算法集合A， AA1,A2,.An， 由于不同的。

22、对抗图像数据生成算法对应不同的修正后的对 抗图像数据识别算法， 因此， 对于A1,A2,.An而言， 每一类对抗图像数据生成算法均对应一 个修正后的对抗图像数据识别算法， 例如， A1对应的修正后的对抗图像数据识别算法记为 F1,A2对应的修正后的对抗图像数据识别算法记为F2， ， An对应的修正后的对抗图像数据 识别算法记为Fn。 F1、 F2、 Fn构成第二算法集合F， FF1,F2,.Fn。 0043 下面以A空间域、 频域、 时域、 梯度为例进行示意性说明， 每个类别又可以细分 成小类， 如空间域类别中可分成A1图像旋转、 增加空白区域、 裁剪、 设置黑白点等， 每种 对抗算法对应不同。

23、的判断条件， 比如频域对抗算法中的某一判定条件是图像高频部分是否 超过设定阈值； 增加空白区域这一对抗算法对应的判断条件是图像出现在x方向或者y方向 的累计像素值突变等。 0044 步骤203、 确定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法 生成的对抗图像。 0045 当该区块链网络中出现一个新的图像时， 将该新的图像记为目标图像， 具体的， 该 目标图像可以存储在区块链中， 进一步， 确定该目标图像是否是由第一算法集合A中的某个 对抗图像数据生成算法生成的对抗图像。 例如， 对该目标图像进行频域分析以确定该目标 图像是否是由频域类的对抗图像数据生成算法生成的对抗图像， 或者，。

24、 对该目标图像进行 时域分析以确定该目标图像是否是由时域类的对抗图像数据生成算法生成的对抗图像， 再 或者， 对该目标图像进行梯度分析以确定该目标图像是否是由梯度类的对抗图像数据生成 算法生成的对抗图像。 0046 步骤204、 若所述目标图像是由所述第一算法集合中的对抗图像数据生成算法生 成的对抗图像， 则向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正后的 对抗图像数据识别算法。 0047 若该目标图像是第一算法集合中的某个对抗图像数据生成算法生成的对抗图像， 例如， 该目标图像是由A1类的对抗图像数据生成算法生成的对抗图像， 则该图像识别安全 控制与管理子系统发出风险提示信息以。

25、及该A1类的对抗图像数据生成算法所对应的修正 后的对抗图像数据识别算法。 该风险是对抗图像数据对图像识别系统造成的安全隐患。 具 体的， 该图像识别安全控制与管理子系统可以向访问节点发送该风险提示信息以及该A1类 的对抗图像数据生成算法所对应的修正后的对抗图像数据识别算法。 0048 可选的， 所述向访问节点发送提示信息和所述对抗图像数据生成算法对应的修正 后的对抗图像数据识别算法， 包括： 采用所述访问节点的公钥对所述提示信息和所述对抗 图像数据生成算法对应的修正后的对抗图像数据识别算法进行加密； 将加密后的所述提示 信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法发送给所述。

26、访 问节点。 0049 例如， 该图像识别安全控制与管理子系统采用该访问节点的公钥， 例如， 1392929293346对该风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的 对抗图像数据识别算法进行加密， 并将加密后的风险提示信息以及该A1类的对抗图像数据 生成算法所对应的修正后的对抗图像数据识别算法发送给该访问节点。 从而使得该访问节 说明书 4/9 页 7 CN 111079798 A 7 点有权限访问该风险提示信息以及该A1类的对抗图像数据生成算法所对应的修正后的对 抗图像数据识别算法。 0050 本发明实施例通过将所述多个历史数据中的对抗图像数据生成算法构成第一算 法集合。

27、， 将所述多个历史数据中的修正后的对抗图像数据识别算法构成第二算法集合， 确 定目标图像是否是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像， 若所 述目标图像是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像， 则向访问 节点发送提示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法， 从而实现了对图像识别进行安全控制与管理的方法， 降低了对抗图像会对图像识别系统造 成的安全隐患。 0051 图3为本发明另一实施例提供的图像识别安全控制与管理方法流程图。 在上述实 施例的基础上， 所述获取多个历史数据中的对抗图像数据生成算法之前， 所述方法还包括： 0052 。

28、步骤301、 接收终端设备在区块链网络中广播的原始图像数据、 所述原始图像数据 对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后 的对抗图像数据识别算法。 0053 例如， 在系统中注册的某图像识别技术人员， 想要分享相关图像识别案例， 该图像 识别技术人员可通过自己的终端设备在区块链网络中广播原始图像数据、 所述原始图像数 据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正 后的对抗图像数据识别算法。 0054 步骤302、 将所述原始图像数据、 所述原始图像数据对应的对抗图像数据、 所述对 抗图像数据生成算法、 所述。

29、对抗图像数据的识别结果、 修正后的对抗图像数据识别算法作 为历史数据存储到区块链的区块中。 0055 相应的， 该图像识别安全控制与管理信息存储子系统可以将该终端设备广播的原 始图像数据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对 抗图像数据的识别结果、 修正后的对抗图像数据识别算法存储到一个新的区块中， 该区块 的输入可以是原始图像数据、 原始图像数据对应的对抗图像数据、 对抗图像数据生成算 法、 对抗图像数据的识别结果、 修正后的对抗图像数据识别算法。 另外， 可以证明相关材料 的音频、 视频、 图像等相关材料也可以上传至区块链并存储在区块链的区块中， 该区。

30、块链可 包括多个首尾相连的区块。 该区块中存储的数据将作为历史数据进行存储。 0056 可选的， 所述将所述原始图像数据、 所述原始图像数据对应的对抗图像数据、 所述 对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像数据识别算法 作为历史数据存储到区块中， 包括： 采用所述终端设备对应的用户公钥对所述原始图像数 据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数 据的识别结果、 修正后的对抗图像数据识别算法进行加密， 得到加密信息； 采用所述终端设 备对应的用户签名对所述加密信息进行签名， 得到签名信息； 将所述签名信息作为历史数 据存。

31、储到区块中。 0057 例如， 该图像识别技术人员的用户公钥为ATCGWKY123YTU， 该图像识别技术人员的 用户签名为XXXY。 该图像识别安全控制与管理信息存储子系统可以采用该图像识别技术人 员的用户公钥ATCGWKY123YTU对原始图像数据、 原始图像数据对应的对抗图像数据、 对抗图 像数据生成算法、 对抗图像数据的识别结果、 修正后的对抗图像数据识别算法进行加密， 得 说明书 5/9 页 8 CN 111079798 A 8 到加密信息。 进一步， 采用该图像识别技术人员的用户签名XXXY对该加密信息进行签名， 得 到签名信息， 并将该签名信息作为历史数据存储到区块中。 0058。

32、 在本实施例中， 当图像识别安全控制与管理信息存储子系统每生成一个区块时， 该图像识别安全控制与管理信息存储子系统还可以输出该区块的上一个区块的存储链接， 例如， ostfmmqqjjwwttyuyt。 0059 本发明实施例通过区块链网络中的图像识别安全控制与管理信息的历史数据， 系 统自动分析和识别图像识别中可能存在的安全风险并给相关人员(例如， 图像识别应用专 家等)发出提示信息及解决方案的推荐， 从而有力促进区块链技术应用在图像识别安全控 制与管理方面的有效推广。 0060 图4为本发明另一实施例提供的图像识别安全控制与管理方法流程图。 在上述实 施例的基础上， 本实施例提供的图像识别。

33、安全控制与管理方法具体还包括如下步骤： 0061 步骤401、 若所述目标图像不是由所述第一算法集合中的对抗图像数据生成算法 生成的对抗图像， 则确定所述目标图像对应的对抗图像的生成算法。 0062 上述实施例中提到了若目标图像是由A1类的对抗图像数据生成算法生成的对抗 图像， 则该图像识别安全控制与管理子系统发出风险提示信息以及该A1类的对抗图像数据 生成算法所对应的修正后的对抗图像数据识别算法。 在本实施例中， 该目标图像不属于该 第一算法集合A中任一种对抗图像数据生成算法生成的对抗图像。 此时， 从时域、 频域、 空间 域、 梯度的角度分析该目标图像对应的对抗图像的生成算法， 检测是否有。

34、历史数据库中的 对抗图像生成算法判定条件之外的其他异常统计数据， 或者从图像识别模型的角度出发， 检测是否是有针对性的对抗攻击(比如针对DNN模型的少像素攻击)。 0063 步骤402、 根据所述目标图像对应的对抗图像的生成算法， 更新所述第一算法集 合。 0064 如果可以检测出该目标图像对应的对抗图像的生成算法， 将该目标图像对应的对 抗图像的生成算法更新到第一算法集合A中。 0065 步骤403、 根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图 像数据识别算法， 更新所述第二算法集合。 0066 由于每一种对抗图像生成算法都对应一种修正后的对抗图像数据识别算法， 因 此， 。

35、可以将该目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法 更新到该第二算法集合F中。 0067 本发明实施例通过判断区块链网络中的目标图像是否是由所述第一算法集合中 的对抗图像数据生成算法生成的对抗图像， 若所述区块链网络中的目标图像不是由所述第 一算法集合中的对抗图像数据生成算法生成的对抗图像， 则确定所述目标图像对应的对抗 图像的生成算法， 根据所述目标图像对应的对抗图像的生成算法， 更新所述第一算法集合， 根据所述目标图像对应的对抗图像的生成算法对应的修正后的对抗图像数据识别算法， 更 新所述第二算法集合， 进一步降低了对抗图像会对图像识别系统造成的安全隐患。 0068。

36、 图5为本发明另一实施例提供的图像识别安全控制与管理方法流程图。 具体过程 与上述实施例所述的方法一致， 此处不再赘述。 另外， 信息存储和信息认证数据格式定义子 系统中的数据结构方式、 信息存储方式和协议具体如下表1所示： 0069 表1 说明书 6/9 页 9 CN 111079798 A 9 0070 0071 0072 图6为本发明实施例提供的图像识别安全控制与管理装置的结构示意图。 该图像 识别安全控制与管理装置具体可以是上述实施例中的一个或多个区块链节点， 或区块链节 点的部件(例如芯片或者电路)。 本发明实施例提供的图像识别安全控制与管理装置可以执 说明书 7/9 页 10 CN。

37、 111079798 A 10 行图像识别安全控制与管理方法实施例提供的处理流程， 如图6所示， 图像识别安全控制与 管理装置60包括： 获取模块61、 生成模块62、 确定模块63和发送模块64； 其中， 获取模块61用 于获取多个历史数据中的对抗图像数据生成算法， 所述历史数据包括： 原始图像数据、 所述 原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识 别结果、 修正后的对抗图像数据识别算法； 生成模块62用于将所述多个历史数据中的对抗 图像数据生成算法构成第一算法集合， 将所述多个历史数据中的修正后的对抗图像数据识 别算法构成第二算法集合； 确定模块6。

38、3用于确定目标图像是否是由所述第一算法集合中的 对抗图像数据生成算法生成的对抗图像； 发送模块64用于所述确定模块确定所述目标图像 是由所述第一算法集合中的对抗图像数据生成算法生成的对抗图像时， 向访问节点发送提 示信息和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法。 0073 可选的， 所述多个历史数据和所述目标图像存储在区块链中。 0074 可选的， 确定模块63还用于： 若所述目标图像不是由所述第一算法集合中的对抗 图像数据生成算法生成的对抗图像， 则确定所述目标图像对应的对抗图像的生成算法； 图 像识别安全控制与管理装置60还包括： 更新模块65， 如图7所示， 更新模块。

39、65用于根据所述 目标图像对应的对抗图像的生成算法， 更新所述第一算法集合； 根据所述目标图像对应的 对抗图像的生成算法对应的修正后的对抗图像数据识别算法， 更新所述第二算法集合。 0075 可选的， 如图7所示， 图像识别安全控制与管理装置60还包括： 接收模块66和存储 模块67。 其中， 接收模块66用于在所述获取模块获取多个历史数据中的对抗图像数据生成 算法之前， 接收终端设备在区块链网络中广播的原始图像数据、 所述原始图像数据对应的 对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗 图像数据识别算法； 存储模块67用于将所述原始图像数据、 所述原。

40、始图像数据对应的对抗 图像数据、 所述对抗图像数据生成算法、 所述对抗图像数据的识别结果、 修正后的对抗图像 数据识别算法作为历史数据存储到区块链的区块中。 0076 可选的， 如图7所示， 图像识别安全控制与管理装置60还包括： 第一加密模块68和 签名模块69。 第一加密模块68用于采用所述终端设备对应的用户公钥对所述原始图像数 据、 所述原始图像数据对应的对抗图像数据、 所述对抗图像数据生成算法、 所述对抗图像数 据的识别结果、 修正后的对抗图像数据识别算法进行加密， 得到加密信息； 签名模块69用于 采用所述终端设备对应的用户签名对所述加密信息进行签名， 得到签名信息； 存储模块67 。

41、具体用于： 将所述签名信息作为历史数据存储到区块中。 0077 可选的， 图像识别安全控制与管理装置60还包括： 第二加密模块610， 第二加密模 块610用于采用所述访问节点的公钥对所述提示信息和所述对抗图像数据生成算法对应的 修正后的对抗图像数据识别算法进行加密； 发送模块64具体用于将加密后的所述提示信息 和所述对抗图像数据生成算法对应的修正后的对抗图像数据识别算法发送给所述访问节 点。 0078 图6所示实施例的图像识别安全控制与管理装置可用于执行上述方法实施例的技 术方案， 其实现原理和技术效果类似， 此处不再赘述。 0079 图8为本发明实施例提供的区块链节点的结构示意图。 本发明。

42、实施例提供的区块 链节点可以执行图像识别安全控制与管理方法实施例提供的处理流程， 如图8所示， 区块链 节点80包括： 存储器81、 处理器82、 计算机程序和通讯接口83； 其中， 计算机程序存储在存储 说明书 8/9 页 11 CN 111079798 A 11 器81中， 并被配置为由处理器82执行上述实施例所述的图像识别安全控制与管理方法。 0080 图8所示实施例的区块链节点可用于执行上述方法实施例的技术方案， 其实现原 理和技术效果类似， 此处不再赘述。 0081 另外， 本发明实施例还提供一种计算机可读存储介质， 其上存储有计算机程序， 所 述计算机程序被处理器执行以实现上述实施。

43、例所述的图像识别安全控制与管理方法。 0082 在本发明所提供的几个实施例中， 应该理解到， 所揭露的装置和方法， 可以通过其 它的方式实现。 例如， 以上所描述的装置实施例仅仅是示意性的， 例如， 所述单元的划分， 仅 仅为一种逻辑功能划分， 实际实现时可以有另外的划分方式， 例如多个单元或组件可以结 合或者可以集成到另一个系统， 或一些特征可以忽略， 或不执行。 另一点， 所显示或讨论的 相互之间的耦合或直接耦合或通信连接可以是通过一些接口， 装置或单元的间接耦合或通 信连接， 可以是电性， 机械或其它的形式。 0083 所述作为分离部件说明的单元可以是或者也可以不是物理上分开的， 作为单。

44、元显 示的部件可以是或者也可以不是物理单元， 即可以位于一个地方， 或者也可以分布到多个 网络单元上。 可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目 的。 0084 另外， 在本发明各个实施例中的各功能单元可以集成在一个处理单元中， 也可以 是各个单元单独物理存在， 也可以两个或两个以上单元集成在一个单元中。 上述集成的单 元既可以采用硬件的形式实现， 也可以采用硬件加软件功能单元的形式实现。 0085 上述以软件功能单元的形式实现的集成的单元， 可以存储在一个计算机可读取存 储介质中。 上述软件功能单元存储在一个存储介质中， 包括若干指令用以使得一台计算机 设备(可以是。

45、个人计算机， 服务器， 或者网络设备等)或处理器(processor)执行本发明各个 实施例所述方法的部分步骤。 而前述的存储介质包括： U盘、 移动硬盘、 只读存储器(Read- Only Memory， ROM)、 随机存取存储器(Random Access Memory， RAM)、 磁碟或者光盘等各种 可以存储程序代码的介质。 0086 本领域技术人员可以清楚地了解到， 为描述的方便和简洁， 仅以上述各功能模块 的划分进行举例说明， 实际应用中， 可以根据需要而将上述功能分配由不同的功能模块完 成， 即将装置的内部结构划分成不同的功能模块， 以完成以上描述的全部或者部分功能。 上 述描。

46、述的装置的具体工作过程， 可以参考前述方法实施例中的对应过程， 在此不再赘述。 0087 最后应说明的是： 以上各实施例仅用以说明本发明的技术方案， 而非对其限制； 尽 管参照前述各实施例对本发明进行了详细的说明， 本领域的普通技术人员应当理解： 其依 然可以对前述各实施例所记载的技术方案进行修改， 或者对其中部分或者全部技术特征进 行等同替换； 而这些修改或者替换， 并不使相应技术方案的本质脱离本发明各实施例技术 方案的范围。 说明书 9/9 页 12 CN 111079798 A 12 图1 图2 说明书附图 1/5 页 13 CN 111079798 A 13 图3 图4 说明书附图 2/5 页 14 CN 111079798 A 14 图5 说明书附图 3/5 页 15 CN 111079798 A 15 图6 图7 说明书附图 4/5 页 16 CN 111079798 A 16 图8 说明书附图 5/5 页 17 CN 111079798 A 17 。