基于热力图、逆向工程和模型剪枝的后门攻击防御方法

授权

摘要

本发明公开了一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，涉及神经网络模型剪枝领域。本发明确定目标神经网络中每一类别的后门触发器，通过离群检测点算法比较所述后门触发器的L1范式，并确定目标标签，作为目标标签数据；对所述目标神经网络的类别进行模型反演计算出相应数据集，根据所述数据集绘制热力图，根据所述热力图确定所述后门触发器的最佳位置；向所述目标神经网络依次输入目标标签数据，根据输入目标标签数据的权值、激活值，筛选出所述目标神经网络中目标神经元；根据目标神经元，对目标神经网络进行模型剪枝。本发明可以有效防御基于随机型触发器和基于模型依赖型触发器的后门攻击。

基本信息

专利标题：

基于热力图、逆向工程和模型剪枝的后门攻击防御方法

专利标题（英）：

暂无

公开（公告）号：

CN113111349A

申请号：

CN202110449810.5

公开（公告）日：

2021-07-13

申请日：

2021-04-25

授权号：

CN113111349B

授权日：

2022-04-29

发明人：

陈艳姣龚雪鸾徐文渊李晓媛彭艺欣

申请人：

浙江大学

申请人地址：

浙江省杭州市西湖区余杭塘路866号

代理机构：

北京睿智保诚专利代理事务所(普通合伙)

代理人：

韩迎之

优先权：

CN202110449810.5

主分类号：

G06F21/56

IPC分类号：

G06F21/56 G06K9/62 G06N3/08