一种问答任务的下游任务处理方法及模型
授权
摘要
本发明公开了一种问答任务的下游任务处理方法及模型，得到关键信息感知的上下文表示HCKey以及关键信息感知的问题表示HQKey，生成问题感知的上下文表示G；基于G计算更新向量z和记忆权重g，更新G得到输出向量Gg；生成上下文粒度向量GC及序列粒度向量GCLS，生成输出向量Cout，使用softmax计算上下文中每个字作为答案起止位置的概率，抽取概率最大的连续子序列作为答案。本发明提出了双向层叠注意力机制，并且构造出以精读和略读为一个整体的机制以及基于粒计算思想的多粒度模块，使得模型有效地关注和筛选有效信息，并在多种粒度下更好地理解文本，给出更加精确的答案，性能在基线模型的基础上取得了新的进步。
基本信息
专利标题 ：
一种问答任务的下游任务处理方法及模型
专利标题（英）：
暂无
公开（公告）号 ：
CN112732879A
申请号 ：
CN202011539404.X
公开（公告）日 ：
2021-04-30
申请日 ：
2020-12-23
授权号 ：
CN112732879B
授权日 ：
2022-05-10
发明人 ：
王勇雷冲陈秋怡
申请人 ：
重庆理工大学
申请人地址 ：
重庆市巴南区李家沱红光大道69号
代理机构 ：
重庆博凯知识产权代理有限公司
代理人 ：
胡逸然
优先权 ：
CN202011539404.X
主分类号 ：
G06F16/332
IPC分类号 ：
G06F16/332 G06F16/33 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F16/332
•••查询公式
法律状态
2022-05-10 ：
授权
2021-05-21 ：
实质审查的生效
IPC(主分类) : G06F 16/332
申请日 : 20201223
申请日 : 20201223
2021-04-30 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
