一种神经网络模型后门攻击检测方法

授权

摘要

本发明公开了一种神经网络模型后门攻击检测方法，包括以下步骤：S1、收集神经网络运行时的输入数据；S2、控制门优化训练，得到每个图片以及每个类对应的最优控制门；S3、关键神经元生成；S4、计算基于关键路径的数值特征的指标；S5、基于指标的异常指数计算，判断神经网络模型是否被后门攻击。本发明对控制门的生成的关键路径进行了数学分析，将模型的内部信息以关键路径的形式表现出来，提高了后门攻击检测方法的可靠性；使用运行时输入样本作为检测数据，即可完成对待检测模型的后门攻击检测，非常适用于部署阶段运行时神经网络模型后门攻击检测。

基本信息

专利标题：

一种神经网络模型后门攻击检测方法

专利标题（英）：

暂无

公开（公告）号：

CN112765607A

申请号：

CN202110068380.2

公开（公告）日：

2021-05-07

申请日：

2021-01-19

授权号：

CN112765607B

授权日：

2022-05-17

发明人：

江维詹瑾瑜温翔宇周星志宋子微孙若旭廖炘可范翥峰

申请人：

电子科技大学

申请人地址：

四川省成都市高新区（西区）西源大道2006号

代理机构：

成都虹盛汇泉专利代理有限公司

代理人：

王伟

优先权：

CN202110068380.2

主分类号：

G06F21/56

IPC分类号：

G06F21/56 G06N3/08