一种可解释区域引导的对抗样本检测方法

授权

摘要

本发明公开了一种可解释区域引导的对抗样本检测方法，采用了深度学习模型的可解释方法引导特征压缩：首先应用可解释方法，得到输入样本的可解释结果，并分割出可解释区域和非可解释区域；然后对输入样本非可解释区域对应的图像部分进行特征压缩，并得到特征压缩前后的模型预测变化，最终根据正常样本和对抗样本在预测变化上的不同实现对对抗样本的检测。通过以上方法，提高了检测的性能，减少误报率与漏报率。为深度学习模型的对抗样本检测防御提供了一种新的防御方法。

基本信息

专利标题：

一种可解释区域引导的对抗样本检测方法

专利标题（英）：

暂无

公开（公告）号：

CN112836716A

申请号：

CN202010858301.3

公开（公告）日：

2021-05-25

申请日：

2020-08-24

授权号：

CN112836716B

授权日：

2022-05-20

发明人：

范铭魏佳利刘烃徐茜贾昂魏闻英

申请人：

西安交通大学

申请人地址：

陕西省西安市咸宁西路28号

代理机构：

西安通大专利代理有限责任公司

代理人：

王艾华

优先权：

CN202010858301.3

主分类号：

G06K9/62

IPC分类号：

G06K9/62 G06T7/11 G06T7/136 G06N3/04 G06N3/06 G06N3/08