神经网络的混合精度量化方法

实质审查的生效

摘要

一种神经网络的混合精度量化方法，神经网络为一第一精度，且包括多个层及一原始最终输出。混合精度量化方法包括以下步骤：对该些层中的一层及该层的输入进行一第二精度的量化(quantize)；根据该第二精度的该层及该层的输入获得该层的输出；对该层的输出进行反量化(dequantize)，并将反量化的该层的输出输入至下一层；获得一最终输出；根据该最终输出与该原始最终输出以获得一目标函数的值；重复上述步骤直到获得每一该些层对应的该目标函数的值；根据每一该些层对应的该目标函数的值决定每一该些层的一量化精度；其中，该量化精度为该第一精度、该第二精度、一第三精度或一第四精度。

基本信息

专利标题：

神经网络的混合精度量化方法

专利标题（英）：

暂无

公开（公告）号：

CN114492721A

申请号：

CN202011163813.4

公开（公告）日：

2022-05-13

申请日：

2020-10-27

授权号：

暂无

授权日：

暂无

发明人：

赖俊宇

申请人：

北京晶视智能科技有限公司

申请人地址：

北京市通州区经海五路3号院26号楼

代理机构：

北京律诚同业知识产权代理有限公司

代理人：

张燕华

优先权：

CN202011163813.4

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/063

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06N

基于特定计算模型的计算机系统

G06N3/00

基于生物学模型的计算机系统

G06N3/02

采用神经网络模型

G06N3/04

体系结构，例如，互连拓扑

法律状态

2022-05-31 ：

实质审查的生效

IPC(主分类) : G06N 3/04
申请日 : 20201027

2022-05-13 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载