一种对抗样本的识别方法及相关装置

授权

摘要

本申请实施例提供一种防御对抗样本的方法及相关装置，该方法通过将目标神经网络的卷积层的结果输出到反馈重构网络中重构得到重构样本，使得对抗样本对目标神经网络的攻击会干扰自编码器的重构从而放大重构样本的误差，使得对抗样本更容易被检测出来，提高了对抗样本的检测准确率，减少了假阳性率。并且，本申请实施例使用对抗样本检测器通过学习对抗样本与非对抗样本各自的重构误差来判别输入样本是否为对抗样本，由于重构误差会放大对抗样本扰动，所以检测灵敏度更高。

基本信息

专利标题：

一种对抗样本的识别方法及相关装置

专利标题（英）：

暂无

公开（公告）号：

CN112673381A

申请号：

CN202080004866.3

公开（公告）日：

2021-04-16

申请日：

2020-11-17

授权号：

CN112673381B

授权日：

2022-04-12

发明人：

易平刘浩文林孝盈

申请人：

华为技术有限公司

申请人地址：

广东省深圳市龙岗区坂田华为总部办公楼

代理机构：

深圳市深佳知识产权代理事务所(普通合伙)

代理人：

王仲凯

优先权：

CN202080004866.3

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06K9/62