一种分布式深度学习模型平台部署及使用方法
授权
摘要
本发明提供一种分布式深度学习模型平台部署及使用方法，步骤：在分布式系统部署WEB后端FastApi模块、深度学习模型推理模块、消息队列模块及数据库模块；WEB后端FastApi模块接收并处理客户端发送的数据请求，再将处理后数据请求发送到消息队列模块；消息队列模块将数据请求分发到深度学习模型推理模块；深度学习模型推理模块加载并运行模型，对数据请求进行推理，生成推理结果，并将推理结果存储到数据库模块；WEB后端FastApi模块从数据库模块查询推理结果，并向客户端返回。本发明充分利用FastApi快速响应和消息队列的中间件特性，有效提升深度学习模型的高并发在线推理任务能力。
基本信息
专利标题 ：
一种分布式深度学习模型平台部署及使用方法
专利标题（英）：
暂无
公开（公告）号 ：
CN111857734A
申请号 ：
CN202010568016.8
公开（公告）日 ：
2020-10-30
申请日 ：
2020-06-19
授权号 ：
CN111857734B
授权日 ：
2022-05-31
发明人 ：
刘学文
申请人 ：
苏州浪潮智能科技有限公司
申请人地址 ：
江苏省苏州市吴中区吴中经济开发区郭巷街道官浦路1号9幢
代理机构 ：
济南舜源专利事务所有限公司
代理人 ：
孙玉营
优先权 ：
CN202010568016.8
主分类号 ：
G06F8/60
IPC分类号 ：
G06F8/60 G06F9/54
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F8/00
软件工程设计
G06F8/60
软件部署
法律状态
2022-05-31 ：
授权
2020-11-17 ：
实质审查的生效
IPC(主分类) : G06F 8/60
申请日 : 20200619
申请日 : 20200619
2020-10-30 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
