一种基于硬件加速器的神经网络内存优化方法和装置
公开
摘要
本发明公开一种基于硬件加速器的神经网络内存优化实现方法与装置,所述方法和装置通过预设多个节点输出内存总和作为总内存,并建立空闲列表和待分配列表,通过对单个节点所需分配内存是否超出预设总内存,若是则增加所需内存的方式更新总内存,进一步执行内存分配和复用,提高内存的利用率。由于神经网络节点必须要2个以上,事先确定最小内存块总大小,采用预设空闲列表与已分配列表两个队列,其中空闲列表队列为满,按地址连续分配,已分配列表为空,按节点连接,携带节点内存信息;相对于现有的技术,确定内存块并排序,在大小相近内存块间进行复用方式,更加节省内存空间,避免了大小相近内存块差异,使得内存复用方式达到极致。
基本信息
专利标题 :
一种基于硬件加速器的神经网络内存优化方法和装置
专利标题(英):
暂无
公开(公告)号 :
CN114298294A
申请号 :
CN202111652962.1
公开(公告)日 :
2022-04-08
申请日 :
2021-12-28
授权号 :
暂无
授权日 :
暂无
发明人 :
吴春选
申请人 :
杭州雄迈集成电路技术股份有限公司
申请人地址 :
浙江省杭州市富阳区银湖街道富闲路9号银湖创新中心9号楼四层
代理机构 :
杭州裕阳联合专利代理有限公司
代理人 :
高明翠
优先权 :
CN202111652962.1
主分类号 :
G06N3/063
IPC分类号 :
G06N3/063 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/06
物理实现,即神经网络、神经元或神经元部分的硬件实现
G06N3/063
采用电的
法律状态
2022-04-08 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载