一种基于关键神经元的神经网络后门攻击防御方法
授权
摘要
本发明公开一种基于关键神经元的神经网络后门攻击防御方法，应用于网络安全领域，首先针对已经部署的神经网络模型收集运行时的输入样本和对应的运行结果；然后将控制门部署在神经网络模型中每个神经元之后，根据收集的输入样本和对应的运行结果对控制门进行训练，得到每个图片以及每个类图片对应的最优控制门；进而根据最优控制门确定关键神经元，再对关键神经元中激活频率较低的神经元进行统计分析，判断神经网络模型是否异常，若异常则使用细粒度裁剪策略，对筛选出来的异常神经元进行裁剪，完成后门防御，否则输出原始神经网络模型。
基本信息
专利标题 ：
一种基于关键神经元的神经网络后门攻击防御方法
专利标题（英）：
暂无
公开（公告）号 ：
CN113010888A
申请号 ：
CN202110228938.9
公开（公告）日 ：
2021-06-22
申请日 ：
2021-03-02
授权号 ：
CN113010888B
授权日 ：
2022-04-19
发明人 ：
詹瑾瑜江维温翔宇周星志孙若旭宋子微廖炘可范翥峰
申请人 ：
电子科技大学
申请人地址 ：
四川省成都市高新区（西区）西源大道2006号
代理机构 ：
成都虹盛汇泉专利代理有限公司
代理人 ：
王伟
优先权 ：
CN202110228938.9
主分类号 ：
G06F21/55
IPC分类号 ：
G06F21/55 G06N3/04 G06N3/08
相关图片
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F21/00
防止未授权行为的保护计算机、其部件、程序或数据的安全装置
G06F21/50
监控用户、程序或设备，以维护平台完整。例如：处理器、固件或操作系统
G06F21/55
检测本地入侵或实施对策
法律状态
2022-04-19 ：
授权
2021-07-09 ：
实质审查的生效
IPC(主分类) : G06F 21/55
申请日 : 20210302
申请日 : 20210302
2021-06-22 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
1、
CN113010888A.PDF
PDF下载
