模型推理参数确定方法、装置、电子设备及存储介质
公开
摘要
本申请实施例提供了一种模型推理参数确定方法、装置、电子设备及存储介质。所述方法包括:获取目标深度学习模型的模型基础信息和模型部署条件信息;根据所述模型基础信息和所述模型部署条件信息,生成所述目标深度学习模型对应的参数配置区间;基于参数调优算法和业务条件,从所述参数配置区间内筛选出所述目标深度学习模型对应的目标模型推理参数。本申请实施例可以获取性能最优或资源最优的模型推理参数,从而可以提高模型的推理性能和推理效率。
基本信息
专利标题 :
模型推理参数确定方法、装置、电子设备及存储介质
专利标题(英):
暂无
公开(公告)号 :
CN114626531A
申请号 :
CN202210317115.8
公开(公告)日 :
2022-06-14
申请日 :
2022-03-29
授权号 :
暂无
授权日 :
暂无
发明人 :
杨天
申请人 :
北京奇艺世纪科技有限公司
申请人地址 :
北京市海淀区海淀北一街2号10层、11层
代理机构 :
北京润泽恒知识产权代理有限公司
代理人 :
吕俊秀
优先权 :
CN202210317115.8
主分类号 :
G06N5/04
IPC分类号 :
G06N5/04 G06N20/00
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N5/00
利用基于知识的模式的计算机系统
G06N5/04
推理方法或设备
法律状态
2022-06-14 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载