一种深度学习模型推理方法、系统、设备及计算机介质

实质审查的生效

摘要

本申请公开了一种深度学习模型推理方法、系统、设备及计算机介质，确定目标深度学习模型中各通道的通道量化参数；根据目标深度学习模型中通道与模型分支间的关系，基于通道量化参数确定模型分支的分支量化参数；基于分支量化参数对目标深度学习模型进行量化，得到量化后深度学习模型；基于量化后深度学习模型进行推理，得到推理结果。本申请中，确定了目标深度学习模组中各个通道的通道量化参数，实现了细粒度的量化参数确定，并基于通道量化参数确定模型分支的分支量化参数，基于量化后深度学习模型进行推理，得到推理结果，实现了基于细粒度的通道量化参数进行深度学习模型推理，提高了深度学习模型的推理精度。

基本信息

专利标题：

一种深度学习模型推理方法、系统、设备及计算机介质

专利标题（英）：

暂无

公开（公告）号：

CN114444658A

申请号：

CN202111675314.8

公开（公告）日：

2022-05-06

申请日：

2021-12-31

授权号：

暂无

授权日：

暂无

发明人：

徐天赐景璐

申请人：

苏州浪潮智能科技有限公司

申请人地址：

江苏省苏州市吴中区吴中经济开发区郭巷街道官浦路1号9幢

代理机构：

北京集佳知识产权代理有限公司

代理人：

张乐

优先权：

CN202111675314.8

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06N5/04

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06N

基于特定计算模型的计算机系统

G06N3/00

基于生物学模型的计算机系统

G06N3/02

采用神经网络模型

G06N3/04

体系结构，例如，互连拓扑

法律状态

2022-05-24 ：

实质审查的生效

IPC(主分类) : G06N 3/04
申请日 : 20211231

2022-05-06 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载