一种提升分布式学习系统拜占庭鲁棒性的防御代理方法
授权
摘要
本发明属于分布式人工智能技术领域，具体为一种提升分布式学习系统拜占庭鲁棒性的防御代理方法。本发明利用基于神经网络结构的适应性可信度评估模块以动态评估各提交梯度的可信度，更新当前主节点上维护的全局分类器参数，生成奖励信号，并根据奖励信号在强化学习的框架下调整适应性可信度评估模块的参数；在训练过程中动态调整对各个工作节点的可行度评估值，缓解恶意工作节点提交的被篡改的梯度对系统训练过程的影响，以提升分布式学习系统的拜占庭鲁棒性。本发明能够广泛应用于各类分布式深度学习系统，提升系统的拜占庭鲁棒性。对人工智能系统的分布式训练过程安全，尤其是在恶意工作节点比例大于或等于50％的情况下，有明显提升。
基本信息
专利标题 ：
一种提升分布式学习系统拜占庭鲁棒性的防御代理方法
专利标题（英）：
暂无
公开（公告）号 ：
CN111967015A
申请号 ：
CN202010723063.5
公开（公告）日 ：
2020-11-20
申请日 ：
2020-07-24
授权号 ：
CN111967015B
授权日 ：
2022-04-12
发明人 ：
杨珉张谧潘旭东
申请人 ：
复旦大学
申请人地址 ：
上海市杨浦区邯郸路220号
代理机构 ：
上海正旦专利代理有限公司
代理人 ：
陆飞
优先权 ：
CN202010723063.5
主分类号 ：
G06F21/57
IPC分类号 ：
G06F21/57 G06K9/62 G06N3/08 G06N3/04
相关图片
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F21/00
防止未授权行为的保护计算机、其部件、程序或数据的安全装置
G06F21/50
监控用户、程序或设备，以维护平台完整。例如：处理器、固件或操作系统
G06F21/57
确保或维持可信任的计算机平台，例如安全引导或断电、版本控制、系统软件检查、安全更新或评估漏洞
法律状态
2022-04-12 ：
授权
2020-12-08 ：
实质审查的生效
IPC(主分类) : G06F 21/57
申请日 : 20200724
申请日 : 20200724
2020-11-20 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
1、
CN111967015A.PDF
PDF下载
