一种基于软流水的LSTM循环网络加速方法和系统
实质审查的生效
摘要
本发明提出了一种基于软流水的LSTM循环网络加速方法和系统,包括:获取具有权重缓存的AI专用芯片和待处理的时间序列,将待运行的LSTM循环网络模型加载至该AI专用芯片,并将LSTM循环网络模型运行中部分时间无关项加载至该权重缓存,另一部分时间无关项存于硬盘;按顺序将该时间序列中当前时刻t的特征向量Xt,以及前一时刻的隐层输出Ht‑1输入至该AI专用芯片,通过读取位于权重缓存的部分时间无关项,运行与该部分时间无关项相关的该LSTM循环网络模型的同时加载硬盘中该另一部分时间无关项至该权重缓存,当与该部分时间无关项相关的该LSTM循环网络模型运行完毕后,再从权重缓存读取该另一部分时间无关项继续执行该LSTM循环网络模型,得到当前时刻t的隐层输出Ht。
基本信息
专利标题 :
一种基于软流水的LSTM循环网络加速方法和系统
专利标题(英):
暂无
公开(公告)号 :
CN114418075A
申请号 :
CN202111591419.5
公开(公告)日 :
2022-04-29
申请日 :
2021-12-23
授权号 :
暂无
授权日 :
暂无
发明人 :
杜子东吴林阳支天
申请人 :
中国科学院计算技术研究所
申请人地址 :
北京市海淀区中关村科学院南路6号
代理机构 :
北京律诚同业知识产权代理有限公司
代理人 :
祁建国
优先权 :
CN202111591419.5
主分类号 :
G06N3/063
IPC分类号 :
G06N3/063 G06N3/04 G06F9/38 G06F15/78 G06F40/30
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/06
物理实现,即神经网络、神经元或神经元部分的硬件实现
G06N3/063
采用电的
法律状态
2022-05-20 :
实质审查的生效
IPC(主分类) : G06N 3/063
申请日 : 20211223
申请日 : 20211223
2022-04-29 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载