神经网络模型的并行训练方法、装置、电子设备
公开
摘要
本发明提供了一种神经网络模型的并行训练方法包括:对目标神经网络模型进行分割,得到所述目标神经网络模型的块结构;当对所述目标神经网络模型进行训练时,对所述张量信息的状态变化进行监测;根据所述张量信息的状态变化,确定所述目标神经网络模型的块结构的状态;基于所述目标神经网络模型的块结构的状态,对不同块结构对应的目标神经网络模型的参数的存储位置进行调整,本发明还提供了神经网络模型的并行训练装置、电子设备及存储介质。本发明能够使实现对目标神经网络模型并行进行训练,通过并行训练的方式,提升神经网络模型的并行训练速度,同时也提高了对大规模神经网络模型的处理能力。
基本信息
专利标题 :
神经网络模型的并行训练方法、装置、电子设备
专利标题(英):
暂无
公开(公告)号 :
CN114330700A
申请号 :
CN202110925104.3
公开(公告)日 :
2022-04-12
申请日 :
2021-08-12
授权号 :
暂无
授权日 :
暂无
发明人 :
方佳瑞于洋
申请人 :
腾讯科技(深圳)有限公司
申请人地址 :
广东省深圳市南山区高新区科技中一路腾讯大厦35层
代理机构 :
北京派特恩知识产权代理有限公司
代理人 :
高天华
优先权 :
CN202110925104.3
主分类号 :
G06N3/08
IPC分类号 :
G06N3/08 G06N3/04
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/08
学习方法
法律状态
2022-04-12 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载