模型训练方法、对话摘要生成方法、系统、设备及介质
公开
摘要
本发明公开了一种模型训练方法、对话摘要生成方法、系统、设备及介质,所述模型为特征抽取模型,所述模型训练方法包括预训练、微调;预训练过程以预训练对话原文分词文本、预训练对话摘要分词文本作为初始特征抽取模型的输入,对初始特征抽取模型进行训练,得到中间特征抽取模型;微调过程以微调对话原文分词文本、第一重要性矩阵作为中间特征抽取模型的输入,对中间特征抽取模型进行训练,得到对话摘要生成模型。本发明使用重要性矩阵指导模型训练,提高对话摘要与原对话文本的匹配度;使用无标注语料进行预训练,使用带标注语料进行微调,减少对带标注语料的需求;基于词粒度进行分词,提高了模型训练的速度。
基本信息
专利标题 :
模型训练方法、对话摘要生成方法、系统、设备及介质
专利标题(英):
暂无
公开(公告)号 :
CN114297349A
申请号 :
CN202111681962.4
公开(公告)日 :
2022-04-08
申请日 :
2021-12-30
授权号 :
暂无
授权日 :
暂无
发明人 :
杨森罗超江小林邹宇李巍严丽
申请人 :
携程旅游信息技术(上海)有限公司
申请人地址 :
上海市浦东新区张江高科技园区碧波路518号302室
代理机构 :
上海弼兴律师事务所
代理人 :
马涛
优先权 :
CN202111681962.4
主分类号 :
G06F16/33
IPC分类号 :
G06F16/33 G06F16/332 G06F40/289 G06F40/35 G06Q50/14
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/33
••查询
法律状态
2022-04-08 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载