模型量化方法、装置、设备、计算机程序及存储介质
公开
摘要
本公开实施例公开了一种模型量化方法、装置、设备、计算机程序及存储介质，能够提高模型量化的精度与量化模型部署的广泛性。方法包括：利用待量化的初始模型进行模型推理，得到初始数据集合；基于目标部署平台的量化模式，对初始模型进行模拟量化，得到量化数据集合；模拟量化用于对初始模型中每个网络层输出的激活值进行量化与还原后进入下一层网络层进行推理；基于初始数据集合与量化数据集合，计算量化误差集合；并基于量化误差集合对初始模型进行调整，得到量化模型；基于每个网络层模拟量化后的激活值的截断值，生成量化参数；量化参数用于将量化模型部署至目标部署平台。
基本信息
专利标题 ：
模型量化方法、装置、设备、计算机程序及存储介质
专利标题（英）：
暂无
公开（公告）号 ：
CN114580280A
申请号 ：
CN202210199396.1
公开（公告）日 ：
2022-06-03
申请日 ：
2022-03-02
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
张琦
申请人 ：
北京市商汤科技开发有限公司
申请人地址 ：
北京市海淀区北四环西路58号11层1101-1117室
代理机构 ：
北京派特恩知识产权代理有限公司
代理人 ：
贾伟
优先权 ：
CN202210199396.1
主分类号 ：
G06F30/27
IPC分类号 ：
G06F30/27 G06F119/02
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F30/27
使用机器学习，例如人工智能，神经网络，支持向量机或训练模型
法律状态
2022-06-03 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
