一种基于端边云架构的深度神经网络协同推理方法
授权
摘要
本发明公开了一种基于端边云架构的深度神经网络协同推理方法，该方法通过端、边、云协同的方式加速端侧推理速度，将人工智能中的深度模型，根据神经网络的分层进行分割，将模型推理过程中的计算任务根据网络环境、端边云三方的资源配额及使用情况，发送到对应的端侧，完成推理的整个过程。本发明公开了模型分割的整体框架及分割计算任务所使用的算法组件及原理，通过端边云的协同，可以加速端侧的推理速度，提高业务场景的中的实时性，同时减少资源端的能耗。
基本信息
专利标题 ：
一种基于端边云架构的深度神经网络协同推理方法
专利标题（英）：
暂无
公开（公告）号 ：
CN112348172A
申请号 ：
CN202011268445.X
公开（公告）日 ：
2021-02-09
申请日 ：
2020-11-13
授权号 ：
CN112348172B
授权日 ：
2022-05-06
发明人 ：
梁松涛高丰杨涛施佩琦汪明军郁善金王晓江
申请人 ：
之江实验室
申请人地址 ：
浙江省杭州市余杭区文一西路1818号人工智能小镇10号楼
代理机构 ：
杭州求是专利事务所有限公司
代理人 ：
邱启旺
优先权 ：
CN202011268445.X
主分类号 ：
G06N3/04
IPC分类号 ：
G06N3/04 G06N3/08 G06N5/04 G06F9/50
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/04
体系结构，例如，互连拓扑
法律状态
2022-05-06 ：
授权
2021-03-02 ：
实质审查的生效
IPC(主分类) : G06N 3/04
申请日 : 20201113
申请日 : 20201113
2021-02-09 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
