模型的后门防御能力提升方法、装置及系统
公开
摘要
本发明实施例公开了一种模型的后门防御能力提升方法、装置及系统。其中，该方法包括：获取目标神经网络模型与目标任务下的干净训练样本集；根据触发器逆向工程反演出所述目标神经网络模型中的目标触发器及目标触发器对应的目标标签；采用所述目标触发器随机对所述干净训练样本集中的干净训练样本进行污染，将被污染的干净训练样本的原标注标签均修改为所述目标标签，得到第一污染样本集；采用所述第一污染样本集对所述目标神经网络模型进行攻击测试，根据攻击测试结果对所述目标神经网络模型进行调优，得到最优神经网络模型。本发明提高了神经网络模型抵御后门攻击的能力，同时保证模型的识别准确度。
基本信息
专利标题 ：
模型的后门防御能力提升方法、装置及系统
专利标题（英）：
暂无
公开（公告）号 ：
CN114266041A
申请号 ：
CN202111532841.3
公开（公告）日 ：
2022-04-01
申请日 ：
2021-12-15
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
刘胜魏国富夏玉明马影周晓勇殷钱安梁淑云余贤喆陶景龙王启凡徐明
申请人 ：
上海观安信息技术股份有限公司
申请人地址 ：
上海市嘉定区金沙江西路958弄绿地科技园7号楼
代理机构 ：
北京城烽知识产权代理事务所(特殊普通合伙)
代理人 ：
许凯
优先权 ：
CN202111532841.3
主分类号 ：
G06F21/55
IPC分类号 ：
G06F21/55 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F21/00
防止未授权行为的保护计算机、其部件、程序或数据的安全装置
G06F21/50
监控用户、程序或设备，以维护平台完整。例如：处理器、固件或操作系统
G06F21/55
检测本地入侵或实施对策
法律状态
2022-04-01 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
