基于权重振荡影响度的多精度分层量化方法及装置
公开
摘要
基于权重振荡影响度的多精度分层量化方法及装置,能够保证神经网络的准确度,解决训练后神经网络结构冗余和参数复杂的问题,减少运算量与内存消耗,实现神经网络的片上运行。方法包括:针对特征图进行全局特征提取、获取通道激活值、确定权重振荡系数;训练好的神经网络中添加权重振荡值计算对神经网络准确度的影响;按照振荡影响度对权重进行排序,设置量化比例;对神经网络进行量化;对未量化参数重新训练,得到神经网络的准确度;设置量化比例,重复步骤(4)、(5),直到达到神经网络准确度最低阈值,量化结束。
基本信息
专利标题 :
基于权重振荡影响度的多精度分层量化方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN114611665A
申请号 :
CN202210217282.5
公开(公告)日 :
2022-06-10
申请日 :
2022-03-07
授权号 :
暂无
授权日 :
暂无
发明人 :
宋萍刘宏博郄有田李一凡
申请人 :
北京理工大学
申请人地址 :
北京市海淀区中关村南大街5号北京理工大学
代理机构 :
北京市中闻律师事务所
代理人 :
冯梦洪
优先权 :
CN202210217282.5
主分类号 :
G06N3/04
IPC分类号 :
G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/04
体系结构,例如,互连拓扑
法律状态
2022-06-10 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载