基于生成模型辅助机器阅读理解的实现方法及装置
公开
摘要
基于生成模型辅助机器阅读理解的实现方法及装置，对选择题构建阅读理解模型，包括两个工作流，1)生成流，将问题输入编码器获得问题编码表示，再输入解码器获得答案解码表示，训练时根据正确选项计算teacher‑forcing损失；2)阅读理解流，将问题编码表示单独由解码器使用贪心策略生成问题扩展的向量表示，同时将问题分别拼接各选项后输入编码器，将对应输出的问题选项表示与扩展的向量表示交互融合，由所得融合结果获得每个选项对应的logit，训练时将这些logit与正确选项之间计算交叉熵损失，以teacher‑forcing损失和交叉熵损失结合起来对阅读理解模型进行训练优化。本发明使用单数据集训练，提高了对选择题的阅读理解准确率。
基本信息
专利标题 ：
基于生成模型辅助机器阅读理解的实现方法及装置
专利标题（英）：
暂无
公开（公告）号 ：
CN114611510A
申请号 ：
CN202210285465.0
公开（公告）日 ：
2022-06-10
申请日 ：
2022-03-23
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
程龚吴傲黄子贤
申请人 ：
南京大学
申请人地址 ：
江苏省南京市栖霞区仙林大道163号
代理机构 ：
南京天翼专利代理有限责任公司
代理人 ：
奚铭
优先权 ：
CN202210285465.0
主分类号 ：
G06F40/289
IPC分类号 ：
G06F40/289 G06F40/216
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F40/289
短语分析，例如有限状态技术或分块
法律状态
2022-06-10 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
