一种数据处理方法和计算单元
公开
摘要
本申请实施例公开了一种数据处理方法和计算单元，用于对权值矩阵进行数据处理，以降低在存储空间和计算开销。本申请实施例方法中，首先获取权值矩阵W，所述W中各值为浮点数，然后对所述W进行定点量化，得到量化因子sW和偏移量oW，并计算其中，所述sW为浮点数，所述oW为整型数，接着对所述W^进行聚类，得到整型数类心集合Cint，所述Cint中各元素均为整型数，最后将所述W^中的各值归属于所述Cint，得到所述W的量化矩阵W’。由于仅需存储量化因子sW、偏移量oW和W’，而无需存储W本身，大大减少了存储空间。
基本信息
专利标题 ：
一种数据处理方法和计算单元
专利标题（英）：
暂无
公开（公告）号 ：
CN114296683A
申请号 ：
CN202011008132.0
公开（公告）日 ：
2022-04-08
申请日 ：
2020-09-23
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
姚棋中胡丁晟徐斌
申请人 ：
华为技术有限公司
申请人地址 ：
广东省深圳市龙岗区坂田华为总部办公楼
代理机构 ：
深圳市深佳知识产权代理事务所(普通合伙)
代理人 ：
李杭
优先权 ：
CN202011008132.0
主分类号 ：
G06F7/487
IPC分类号 ：
G06F7/487 G06F17/16 G06K9/62 G06N3/04 G06V10/762 G06V10/82
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F7/00
通过待处理的数据的指令或内容进行运算的数据处理的方法或装置
G06F7/38
只利用数制表示，例如利用二进制、三进制、十进制表示来完成计算的方法或装置
G06F7/48
应用非形成接触器件的，例如，电子管、固体器件；应用非特定的器件的
G06F7/483
用数制的非线性组合表示的数字计算，例如，有理数、对数系统、或浮点数
G06F7/487
进行乘法的；进行除法的
法律状态
2022-04-08 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
