基于Seq2seq模型的摘要生成方法

授权

摘要

本发明涉及一种基于Seq2seq模型的摘要生成方法，属于自然语言生成领域。该方法首先将待生成摘要的文本转化为词向量序列；然后将词向量序列输入经训练的Seq2seq模型得到的输出作为摘要。进一步的，对Seq2seq模型中的Encoder编码模型进行了改进，重新定义了LSTM隐层单个细胞节点的输入门和遗忘门结构；对Encoder训练过程中用到的损失函数进行了优化，将训练数据分为子系统，根据不同子系统属性的不同选取适合于子系统特性的损失函数，并根据条件信息熵来计算不同子系统所含信息量的多少，将条件信息熵作为子系统损失函数的权重得到系统的损失函数。对比现有技术，本发明首次将翻译模型Seq2seq用于摘要生成，并根据摘要特点，对Seq2seq进行改进，提高了其在摘要生成时的训练速度和精度。

基本信息

专利标题：

基于Seq2seq模型的摘要生成方法

专利标题（英）：

暂无

公开（公告）号：

CN113312473A

申请号：

CN202110580129.4

公开（公告）日：

2021-08-27

申请日：

2021-05-26

授权号：

CN113312473B

授权日：

2022-06-07

发明人：

郭树理宋晓伟韩丽娜杨文涛王国威

申请人：

北京理工大学;中国人民解放军总医院第二医学中心;海南软件职业技术学院

申请人地址：

北京市海淀区中关村南大街5号

代理机构：

北京正阳理工知识产权代理事务所(普通合伙)

代理人：

张利萍

优先权：

CN202110580129.4

主分类号：

G06F16/34

IPC分类号：

G06F16/34 G06N3/04 G06N3/08