一种模型攻击的防御方法及装置
授权
摘要
本说明书提供一种模型攻击的防御方法及装置。所述方法包括：当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；判断所述调用是否符合攻击调用；若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。上述方案可有效防御成员推测攻击、对抗样本攻击等模型攻击，避免用户隐私泄露，保护用户个人数据的安全。
基本信息
专利标题 ：
一种模型攻击的防御方法及装置
专利标题（英）：
暂无
公开（公告）号 ：
CN110889117A
申请号 ：
CN201911193975.X
公开（公告）日 ：
2020-03-17
申请日 ：
2019-11-28
授权号 ：
CN110889117B
授权日 ：
2022-04-19
发明人 ：
翁海琴薛峰宗志远
申请人 ：
支付宝（杭州）信息技术有限公司
申请人地址 ：
浙江省杭州市西湖区西溪路556号8层B段801-11
代理机构 ：
北京博思佳知识产权代理有限公司
代理人 ：
周嗣勇
优先权 ：
CN201911193975.X
主分类号 ：
G06F21/56
IPC分类号 ：
G06F21/56 G06F21/62
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F21/00
防止未授权行为的保护计算机、其部件、程序或数据的安全装置
G06F21/50
监控用户、程序或设备，以维护平台完整。例如：处理器、固件或操作系统
G06F21/55
检测本地入侵或实施对策
G06F21/56
计算机恶意软件检测或处理，例如反病毒装置
法律状态
2022-04-19 ：
授权
2020-04-10 ：
实质审查的生效
IPC(主分类) : G06F 21/56
申请日 : 20191128
申请日 : 20191128
2020-03-17 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
