广域网跨数据中心分布式学习模型参数更新方法及装置
实质审查的生效
摘要
本发明涉及一种广域网跨数据中心分布式学习模型参数更新方法及装置。其方法部分主要包括：将模型及训练数据都拆分部署在N台worker machine上；在每台参数服务器上设置相同的参数重要性评估器，所述参数重要性评估器包括三个参数：模型收敛固定参数Tf、网络带宽门限值Tb以及参数重要性动态门限值Td；开始进行分布式机器学习模型训练。本发明通过引入参数重要性机制解决分布式机器学习训练速率的问题；通过引入参数重要性机制解决分布式机器学习对网络带宽需求过高的问题；通过使用参数重要性机制剔除不重要参数的更新，可以降低WAN间分布式机器学习对带宽的需求，可减少参数服务器的计算量。
基本信息
专利标题 ：
广域网跨数据中心分布式学习模型参数更新方法及装置
专利标题（英）：
暂无
公开（公告）号 ：
CN114492838A
申请号 ：
CN202210061516.1
公开（公告）日 ：
2022-05-13
申请日 ：
2022-01-19
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
邓宸李文超徐安然尹山匡立伟
申请人 ：
烽火通信科技股份有限公司
申请人地址 ：
湖北省武汉市东湖高新技术开发区高新四路6号
代理机构 ：
深圳市六加知识产权代理有限公司
代理人 ：
曲卫涛
优先权 ：
CN202210061516.1
主分类号 ：
G06N20/00
IPC分类号 ：
G06N20/00 H04L67/10
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06N
基于特定计算模型的计算机系统
G06N20/00
机器学习
法律状态
2022-05-31 ：
实质审查的生效
IPC(主分类) : G06N 20/00
申请日 : 20220119
申请日 : 20220119
2022-05-13 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
