深度学习模型的鲁棒性评估方法、装置及存储介质

授权

摘要

本发明实施例提出一种深度学习模型的鲁棒性评估方法、装置及计算机可读存储介质。其中深度学习模型的鲁棒性评估方法包括：获取与待评估的深度学习模型对应的开源模型和数据集；将数据集中的原始图像输入到开源模型中，生成与原始图像对应的对抗样本；调用待评估的深度学习模型，使用对抗样本对待评估的深度学习模型进行攻击；统计数据集中的原始图像对应的对抗样本对待评估的深度学习模型的攻击成功率；利用攻击成功率确定待评估的深度学习模型的鲁棒性指标。本发明实施例不用提供深度学习模型的网络结构定义和参数，属于黑盒评估方式，仅需调用该模型即可达到接近白盒攻击算法的评估效果。且该方法大大减少了攻击次数，提升了评估效率。

基本信息

专利标题：

深度学习模型的鲁棒性评估方法、装置及存储介质

专利标题（英）：

暂无

公开（公告）号：

CN110222831A

申请号：

CN201910515046.X

公开（公告）日：

2019-09-10

申请日：

2019-06-13

授权号：

CN110222831B

授权日：

2022-05-17

发明人：

刘焱郝新王洋

申请人：

百度在线网络技术（北京）有限公司

申请人地址：

北京市海淀区上地十街10号百度大厦三层

代理机构：

北京市铸成律师事务所

代理人：

杨瑾瑾

优先权：

CN201910515046.X

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08