深度神经网络推理计算中一种基于Profile图的优化方法

授权

摘要

本发明提供了一种深度神经网络推理计算中一种基于Profile图的优化方法，所述深度神经网络推理计算中一种基于Profile图的优化方法包括如下步骤：步骤S1、获取深度神经网络推理计算节点的包含计算量和计算时间的Profile信息；步骤S2、将Profile信息与深度神经网络模型结构描述融合，形成Profile图：根据深度神经网络结构描述文件、Profile信息以及计算核心的信息，构建包含计算量、计算时间、计算函数的Profile图，用于指导计算调度；步骤S3、基于深度神经网络Profile图的计算核心调度，实现性能优化。本发明可以对深度神经网络推理全过程的计算工作负载有更清晰直接的认识，可实现面向具体计算设备计算资源的性能优化调度。

基本信息

专利标题：

深度神经网络推理计算中一种基于Profile图的优化方法

专利标题（英）：

暂无

公开（公告）号：

CN112149826A

申请号：

CN202011022468.2

公开（公告）日：

2020-12-29

申请日：

2020-09-25

授权号：

CN112149826B

授权日：

2022-05-03

发明人：

李春江夏一民刘宗林龚国辉刘蓬侠罗恒王磊赵祥徐雪刚

申请人：

湖南长城银河科技有限公司

申请人地址：

湖南省长沙市高新开发区尖山路39号长沙中电软件园一期15栋

代理机构：

长沙市护航专利代理事务所(特殊普通合伙)

代理人：

莫晓齐

优先权：

CN202011022468.2

主分类号：

G06N3/08

IPC分类号：

G06N3/08