基于可解释模型的循环神经网络后门攻击检测方法

授权

摘要

本发明公开一种基于可解释模型的循环神经网络后门攻击检测方法，分三步对RNN模型进行抽象并对文本进行后门检测：首先使用机器学习算法对RNN隐藏层向量进行聚类，构建不确定有穷自动机；其次根据构建的不确定有穷自动机，获取文本的状态转移路径，从而计算文本中每个单词的权重；最后基于变异测试的思想，对文本中的后门进行检测。通过以上方法，可以准确地对RNN在文本上的决策做出解释，并准确检测出后门文本。

基本信息

专利标题：

基于可解释模型的循环神经网络后门攻击检测方法

专利标题（英）：

暂无

公开（公告）号：

CN112132262A

申请号：

CN202010936181.4

公开（公告）日：

2020-12-25

申请日：

2020-09-08

授权号：

CN112132262B

授权日：

2022-05-20

发明人：

范铭司梓良刘烃魏闻英魏佳利

申请人：

西安交通大学

申请人地址：

陕西省西安市咸宁西路28号

代理机构：

西安通大专利代理有限责任公司

代理人：

王艾华

优先权：

CN202010936181.4

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06K9/62