一种基于多网络框架的对比自监督学习方法
公开
摘要
本发明公开了一种基于多网络框架的对比自监督学习方法,包括步骤为:对训练集中的每张图像都应用数据增广手段得到三个独立的增广视图;将三个增广视图分别输入到设计好的反向传播网络、停止梯度网络和动量网络中;结合负样本队列分别计算反向传播网络与停止梯度网络、反向传播网络与动量网络之间输出向量的损失值,相加后得到总损失值;通过最小化总损失值对反向传播网络的参数进行梯度更新;利用反向传播网络的参数对停止梯度网络和动量网络进行参数更新;用动量网络更新负样本队列。本发明是在经典的自监督学习方法的基础上,通过使用多网络框架引入更多正样本对,同时结合端到端和动量机制引入更多的负样本,达到更好的预训练效果。
基本信息
专利标题 :
一种基于多网络框架的对比自监督学习方法
专利标题(英):
暂无
公开(公告)号 :
CN114565799A
申请号 :
CN202210450752.2
公开(公告)日 :
2022-05-31
申请日 :
2022-04-27
授权号 :
暂无
授权日 :
暂无
发明人 :
龙显忠张智猗
申请人 :
南京邮电大学
申请人地址 :
江苏省南京市亚东新城区文苑路9号
代理机构 :
南京正联知识产权代理有限公司
代理人 :
张玉红
优先权 :
CN202210450752.2
主分类号 :
G06V10/764
IPC分类号 :
G06V10/764 G06V10/74 G06V10/774 G06V10/82 G06K9/62 G06N3/08
法律状态
2022-05-31 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载