模型量化方法、装置、设备及存储介质
公开
摘要
本发明涉及自动驾驶领域,公开了一种模型量化方法、装置、设备及存储介质,该方法包括:获取神经网络模型的相邻两层结构中的第一层结构输出的待量化数据;获取预设的平衡因子,并基于平衡因子和待量化数据计算量化映射的量化最大值和量化最小值;基于量化校准的量化最大值和量化最小值确定量化映射区间,并基于量化映射区间对待量化数据进行量化映射,得到量化映射数据;将量化映射数据输入待量化模型中相邻两层结构中的第二层结构,以支持神经网络模型计算对应的硬件的使用率。本方法在自动驾驶系统的模型进行数据的量化映射过程中引入平衡因子,使得量化映射的不同误差平衡,量化映射效果提高,进一步减小模型推理的误差。
基本信息
专利标题 :
模型量化方法、装置、设备及存储介质
专利标题(英):
暂无
公开(公告)号 :
CN114595627A
申请号 :
CN202210109382.6
公开(公告)日 :
2022-06-07
申请日 :
2022-01-28
授权号 :
暂无
授权日 :
暂无
发明人 :
杨树周汉清韩旭
申请人 :
广州文远知行科技有限公司
申请人地址 :
广东省广州市中新广州知识城九佛建设路333号自编687室
代理机构 :
北京市京大律师事务所
代理人 :
苏福念
优先权 :
CN202210109382.6
主分类号 :
G06F30/27
IPC分类号 :
G06F30/27 G06N3/04 G06N3/08 G06F111/10
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F30/27
使用机器学习,例如人工智能,神经网络,支持向量机或训练模型
法律状态
2022-06-07 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载