模型训练方法、装置、设备及介质

授权

摘要

本申请实施例提供一种模型训练方法、装置、设备及介质。在本申请实施例中，将文档图像、包含文档图像中文字的文本文件和文字在文档图像中的实际位置输入至文档预训练模型，得到文档图像中图像区域的视觉表征和文字的文本表征；根据视觉表征和/或文本表征，利用监督策略确定损失值；根据损失值，调整模型参数，得到训练后的文档预训练模型。其中，监督策略包括基于文本图像位置感知任务、区域文本预测任务、文本图像双向对齐任务中的至少一种预训练任务确定损失值。从而，通过视觉信息与文本信息充分交互的预训练任务，提高文档预训练模型的训练效果，进而提高文档预训练模型对文档图像进行文档理解的准确性。

基本信息

专利标题：

模型训练方法、装置、设备及介质

专利标题（英）：

暂无

公开（公告）号：

CN114170482A

申请号：

CN202210126826.7

公开（公告）日：

2022-03-11

申请日：

2022-02-11

授权号：

CN114170482B

授权日：

2022-05-17

发明人：

罗楚威唐国志郑琪姚聪

申请人：

阿里巴巴达摩院（杭州）科技有限公司

申请人地址：

浙江省杭州市余杭区五常街道文一西路969号3幢5层516室

代理机构：

北京同钧律师事务所

代理人：

许怀远

优先权：

CN202210126826.7

主分类号：

G06V10/774

IPC分类号：

G06V10/774 G06V30/41 G06T7/70