一种基于Transformer的二训练图像分类算法
实质审查的生效
摘要
本发明公开了一种基于Transformer的二训练图像分类算法,属于图像分类技术领域,包括将图像进行预处理并划分成固定大小的子图,连接子图形成输入数据;将输入数据输入ResNet‑50模型,获得图片分类结果;将分类标签和蒸馏标签分别拼接到输入数据的头和尾,得到标签数据;将标签数据进行位置编码,得到位置编码标签数据;将位置编码标签数据输入Transformer模型中,获取分类标签和蒸馏标签的分类结果;将Transformer模型作为学生模型,ResNet‑50模型作为教师模型构建损失函数;将损失函数对Transformer模型进行反向传播训练,训练完成后,得到训练好的Transformer模型;基于训练好的Transformer模型,获得待测图像的类别。本发明将ResNet‑50模型和Transformer模型分别作为师生模型,学习教师网络的特征空间表达,最后输出分类结果。
基本信息
专利标题 :
一种基于Transformer的二训练图像分类算法
专利标题(英):
暂无
公开(公告)号 :
CN114528928A
申请号 :
CN202210130231.9
公开(公告)日 :
2022-05-24
申请日 :
2022-02-11
授权号 :
暂无
授权日 :
暂无
发明人 :
叶增荣曹迪黄立鑫高嘉彬胡尚
申请人 :
杭州慧看智能科技有限公司
申请人地址 :
浙江省杭州市西湖区高技街30号333室
代理机构 :
北京汇信合知识产权代理有限公司
代理人 :
卢亮辉
优先权 :
CN202210130231.9
主分类号 :
G06K9/62
IPC分类号 :
G06K9/62 G06V10/764 G06V10/82 G06N3/04 G06N3/08 G06Q50/26
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06K
数据识别;数据表示;记录载体;记录载体的处理
G06K9/00
用于阅读或识别印刷或书写字符或者用于识别图形,例如,指纹的方法或装置
G06K9/62
应用电子设备进行识别的方法或装置
法律状态
2022-06-10 :
实质审查的生效
IPC(主分类) : G06K 9/62
申请日 : 20220211
申请日 : 20220211
2022-05-24 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载