一种分布式机器学习的计算机系统

授权

摘要

本发明提供了一种用于机器学习模型的分布式训练的计算机系统(100)。所述计算机系统(100)包括BSP系统(101)，包含中央BSP控制模块(102)和至少一个本地BSP模块(103)。所述计算机系统(100)还包括至少一个机器学习模块(105)，与正好一个本地BSP模块(103)相关联，以及共享内存模块(104)，与正好一对本地BSP模块(103)和机器学习模块(105)相关联。中央BSP控制模块(102)用于指示所述至少一个本地BSP模块(103)将本地模型存储在其相关联的共享内存模块(104)。所述至少一个机器学习模块(105)用于从其相关联的共享内存模块(104)读取所述本地模型，基于所述本地模型计算梯度，并且在梯度计算之后立即将所述梯度聚合成其相关联的共享内存模块(104)中的聚合梯度。所述中央BSP控制模块(102)还用于指示所述至少一个本地BSP模块(103)周期性地读出其相关联的共享内存模块(104)。

基本信息

专利标题：

一种分布式机器学习的计算机系统

专利标题（英）：

暂无

公开（公告）号：

CN110419050A

申请号：

CN201780088195.1

公开（公告）日：

2019-11-05

申请日：

2017-03-09

授权号：

CN110419050B

授权日：

2022-05-17

发明人：

扎克·梅拉梅德吴祖光罗马·塔扬斯基内坦·彼得弗洛恩德韦纳·乌里

申请人：

华为技术有限公司

申请人地址：

广东省深圳市龙岗区坂田华为总部办公楼

代理机构：

代理人：

优先权：

CN201780088195.1

主分类号：

G06N20/00

IPC分类号：

G06N20/00