基于注意力的模型训练方法、装置及电子设备
实质审查的生效
摘要
本公开提供了一种基于注意力的模型训练方法、装置及电子设备，涉及人工智能技术领域，具体为深度学习、计算机视觉技术领域，可应用于图像处理、图像检测等场景。具体实现方案为：获取神经网络模型中注意力模块的注意力输出矩阵，基于神经网络模型的池化层对所述注意力输出矩阵的样本维度和数据块维度进行降维计算，确定池化后的第一输出矩阵；基于神经网络模型的卷积层对第一输出矩阵进行卷积操作，确定卷积后的第二输出矩阵，对第二输出矩阵中各个头的输出值进行归一化处理和加权处理，获得更新后的第二输出矩阵；基于更新后的第二输出矩阵获取更新后的注意力输出矩阵，并基于所述更新后的注意力输出矩阵训练所述神经网络模型。
基本信息
专利标题 ：
基于注意力的模型训练方法、装置及电子设备
专利标题（英）：
暂无
公开（公告）号 ：
CN114494814A
申请号 ：
CN202210102176.2
公开（公告）日 ：
2022-05-13
申请日 ：
2022-01-27
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
王健韩钧宇
申请人 ：
北京百度网讯科技有限公司
申请人地址 ：
北京市海淀区上地十街10号百度大厦2层
代理机构 ：
北京银龙知识产权代理有限公司
代理人 ：
尹倩
优先权 ：
CN202210102176.2
主分类号 ：
G06V10/82
IPC分类号 ：
G06V10/82 G06N3/04 G06N3/08
法律状态
2022-05-31 ：
实质审查的生效
IPC(主分类) : G06V 10/82
申请日 : 20220127
申请日 : 20220127
2022-05-13 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
