检测深度神经网络(DNN)上的对抗攻击

实质审查的生效

摘要

一种用于保护具有包括一个或多个中间层的多个层的深度神经网络(DNN)的方法、装置和计算机程序产品。在该方法中，接收训练数据集。在使用所接收的训练数据集来训练DNN期间，记录与中间层相关联的激活的表示。针对表示中的至少一个或多个，训练单独的分类器(模型)。分类器共同地用于训练离群值检测模型。在训练之后，使用离群值检测模型来检测深度神经网络上的对抗输入。离群值检测模型生成预测以及给定输入是否是对抗输入的指示符。根据另一方面，响应于检测到对抗输入，采取动作以保护与DNN相关联的部署的系统。

基本信息

专利标题：

检测深度神经网络(DNN)上的对抗攻击

专利标题（英）：

暂无

公开（公告）号：

CN114519185A

申请号：

CN202111325071.5

公开（公告）日：

2022-05-20

申请日：

2021-11-10

授权号：

暂无

授权日：

暂无

发明人：

张佳龙顾钟蔬张智勇M.P.斯托克林I.M.莫洛伊

申请人：

国际商业机器公司

申请人地址：

美国纽约阿芒克

代理机构：

北京市柳沈律师事务所

代理人：

陈金林

优先权：

CN202111325071.5

主分类号：

G06F21/55

IPC分类号：

G06F21/55 G06K9/62 G06N3/04 G06N3/08

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06F

电数字数据处理

G06F21/00

防止未授权行为的保护计算机、其部件、程序或数据的安全装置

G06F21/50

监控用户、程序或设备，以维护平台完整。例如：处理器、固件或操作系统

G06F21/55

检测本地入侵或实施对策

法律状态

2022-06-07 ：

实质审查的生效

IPC(主分类) : G06F 21/55
申请日 : 20211110

2022-05-20 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载