模型分类的过程中防止模型窃取的方法及装置
授权
摘要
本说明书实施例提供一种在利用业务分类模型进行分类的过程中防止模型窃取的方法、装置及电子设备,所述业务分类模型为用于预测业务对象类别的深度神经网络,包括依次堆叠的输入层、多个中间层、以及输出层;所述方法包括:获取业务对象的特征信息;将特征信息输入业务分类模型进行前次预测,得到最大前次预测概率对应的类别,作为目标类别;基于目标类别确定预先从所述输入层、多个中间层、以及输出层中选取的目标层对应的扰动数据;将特征信息输入业务分类模型进行后次预测,包括在待输入目标层的数据中加入对应的扰动数据;输出目标类别以及最大后次预测概率。如此能够在预测结果仍具有可用性的前提下,达到了防止模型被窃取的效果。
基本信息
专利标题 :
模型分类的过程中防止模型窃取的方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN112200234A
申请号 :
CN202011061386.9
公开(公告)日 :
2021-01-08
申请日 :
2020-09-30
授权号 :
CN112200234B
授权日 :
2022-04-12
发明人 :
邱伟峰
申请人 :
支付宝(杭州)信息技术有限公司
申请人地址 :
浙江省杭州市西湖区西溪路556号8层B段801-11
代理机构 :
北京亿腾知识产权代理事务所(普通合伙)
代理人 :
陈霁
优先权 :
CN202011061386.9
主分类号 :
G06K9/62
IPC分类号 :
G06K9/62 G06N3/04 G06N3/08 G06Q30/00 G06Q30/02
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06K
数据识别;数据表示;记录载体;记录载体的处理
G06K9/00
用于阅读或识别印刷或书写字符或者用于识别图形,例如,指纹的方法或装置
G06K9/62
应用电子设备进行识别的方法或装置
法律状态
2022-04-12 :
授权
2021-01-26 :
实质审查的生效
IPC(主分类) : G06K 9/62
申请日 : 20200930
申请日 : 20200930
2021-01-08 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载