基于知识蒸馏的目标检测模型压缩方法

实质审查的生效

摘要

本发明提供一种基于知识蒸馏的目标检测模型压缩方法，通过FPN分别提取教师网络模型和学生网络模型的特征图，通过计算两者的对应的特征图的Gram矩阵之间的差异，并通过反向传播，能够使学生网络模型向教师网络模型学习不同通道之间的相程度，进而提高学生网络模型的检测精度，从而能够对目标检测模型进行有效压缩，并且在压缩的同时保证检测精度。其中，教师网络模型为以ResNet101为骨干网络的Faster RCNN，学生网络模型为以ResNet50为骨干网络的Faster RCNN，因此，减少了约一半的中间层的层数，实现了有效的模型压缩，并且通过应用Gram矩阵，保证了压缩后模型的检测精度。

基本信息

专利标题：

基于知识蒸馏的目标检测模型压缩方法

专利标题（英）：

暂无

公开（公告）号：

CN114492755A

申请号：

CN202210106356.8

公开（公告）日：

2022-05-13

申请日：

2022-01-28

授权号：

暂无

授权日：

暂无

发明人：

王京冯瑞

申请人：

复旦大学

申请人地址：

上海市杨浦区邯郸路220号

代理机构：

上海德昭知识产权代理有限公司

代理人：

程宗德

优先权：

CN202210106356.8

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06N5/02

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06N

基于特定计算模型的计算机系统

G06N3/00

基于生物学模型的计算机系统

G06N3/02

采用神经网络模型

G06N3/04

体系结构，例如，互连拓扑

法律状态

2022-05-31 ：

实质审查的生效

IPC(主分类) : G06N 3/04
申请日 : 20220128

2022-05-13 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载