一种模型蒸馏方法、装置、电子设备和可读存储介质
公开
摘要
本申请提供了一种模型蒸馏方法、装置、电子设备和可读存储介质，包括：确定至少两个老师模型和至少两个学生模型，所述学生模型与所述老师模型对应，其中，所述至少两个学生模型相同，任意两个老师模型不同；在控制所述至少两个学生模型学习对应老师模型的知识过程中，控制每个所述学生模型分别融合所述至少两个学生模型中其他学生模型的目标知识；在所述至少两个学生模型中，选择满足约定条件的学生模型作为目标学生模型。本方案中，一个老师模型只需要将知识教给一个学生模型，学生模型之间互相学习，能够快速的找到知识学习效果最好的学生模型，实现了对于该多个老师模型进行快速蒸馏。
基本信息
专利标题 ：
一种模型蒸馏方法、装置、电子设备和可读存储介质
专利标题（英）：
暂无
公开（公告）号 ：
CN114611696A
申请号 ：
CN202210332387.5
公开（公告）日 ：
2022-06-10
申请日 ：
2022-03-31
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
舒红乔王奇刚李远辉
申请人 ：
联想（北京）有限公司
申请人地址 ：
北京市海淀区上地西路6号2幢2层201-H2-6
代理机构 ：
北京集佳知识产权代理有限公司
代理人 ：
张静
优先权 ：
CN202210332387.5
主分类号 ：
G06N3/08
IPC分类号 ：
G06N3/08 G06N3/04
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/08
学习方法
法律状态
2022-06-10 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
