电子设备及其浮点数据的处理方法、可读介质
实质审查的生效
摘要

本申请涉及一种电子设备及其浮点数据的处理方法、可读介质。该电子设备包括:存储器以及处理器,当指令被电子设备的一个或多个处理器执行时,处理器执行如下操作:获取输入的待处理的浮点数据;确定出待处理的浮点数据在电子设备中存储时对应的有偏指数E字段;根据E字段的取值,确定出对待处理的浮点数据进行求倒数运算以及平方根运算的运算顺序;基于运算顺序对浮点数进行计算,得到待处理的浮点数据的平方根倒数;输出待处理的浮点数据的平方根倒数。申请的技术方案根据浮点数据对应的E字段的取值确定出对浮点数据进行求倒数运算以及平方根运算的运算顺序,可以实现对浮点数平方根倒数运算的精确度的提高。

基本信息
专利标题 :
电子设备及其浮点数据的处理方法、可读介质
专利标题(英):
暂无
公开(公告)号 :
CN114356279A
申请号 :
CN202210042675.7
公开(公告)日 :
2022-04-15
申请日 :
2022-01-14
授权号 :
暂无
授权日 :
暂无
发明人 :
周文婷孙锦鸿王佳乐
申请人 :
安谋科技(中国)有限公司
申请人地址 :
上海市闵行区田林路1016号科技绿洲三期11号楼
代理机构 :
上海华诚知识产权代理有限公司
代理人 :
肖华
优先权 :
CN202210042675.7
主分类号 :
G06F7/499
IPC分类号 :
G06F7/499  G06F7/72  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F7/00
通过待处理的数据的指令或内容进行运算的数据处理的方法或装置
G06F7/38
只利用数制表示,例如利用二进制、三进制、十进制表示来完成计算的方法或装置
G06F7/48
应用非形成接触器件的,例如,电子管、固体器件;应用非特定的器件的
G06F7/499
命名或异常处理,例如,取整、溢出
法律状态
2022-05-03 :
实质审查的生效
IPC(主分类) : G06F 7/499
申请日 : 20220114
2022-04-15 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332