一种面向神经网络模型计算的图执行方法和装置

授权

摘要

本发明公开了一种面向神经网络模型计算的图执行方法和装置，包括根据深度学习框架编译生成的物理计算图，创建本机上的任务执行体，通过设计为每个任务执行体分配多个空闲内存块的方案，实现整张计算图以流水并行的方式同时参与到不同批次数据的深度学习训练任务中，本发明公开的面向神经网络模型计算的图执行方法和装置，以算子核函数的执行体为基本单元，以生产和消费的张量作为整个计算图中流动的数据，执行体以流水并行的方式实现模型的训练过程。在大规模深度神经网络的分布式应用场景下，本发明对用户的使用门槛较低，并且能够使模型学习到大量分批次流入神经网络的数据的内在关联，从而获得对应场景中的“智能”感知与判断能力。

基本信息

专利标题：

一种面向神经网络模型计算的图执行方法和装置

专利标题（英）：

暂无

公开（公告）号：

CN114237918A

申请号：

CN202210183223.0

公开（公告）日：

2022-03-25

申请日：

2022-02-28

授权号：

CN114237918B

授权日：

2022-05-27

发明人：

王宏升鲍虎军陈光曾令仿程宏才李勇朱健郑焕波

申请人：

之江实验室

申请人地址：

浙江省杭州市余杭区之江实验室南湖总部

代理机构：

北京志霖恒远知识产权代理事务所(普通合伙)

代理人：

奚丽萍

优先权：

CN202210183223.0

主分类号：

G06F9/50

IPC分类号：

G06F9/50 G06F9/54 G06N3/04 G06N3/08