一种机器阅读理解方法、装置、设备及存储介质
公开
摘要

本发明公开了一种机器阅读理解方法、装置、设备及存储介质。在得到待理解的文本数据和目标问题的表征矩阵后,通过三层第一多头注意力层对表征矩阵进行多层级表示,对文本和问题之间的注意力焦点进一步细化,使得模型可以更好的注意到哪些内容是和问题相关的,进而提高预测答案的起始位置与结束位置的准确性。此外,三层第一多头注意力层的输出采用跳跃连接方式,将目标层的输出矩阵和其他两层第一多头注意力层的输出矩阵分别进行拼接,使得模型可以学习到不同的层的信息,同时矩阵拼接之后的维度翻倍,使得模型提取的特征更丰富,有助于提升预测答案的起始位置与结束位置的准确性,也进一步防止了梯度消失的问题。

基本信息
专利标题 :
一种机器阅读理解方法、装置、设备及存储介质
专利标题(英):
暂无
公开(公告)号 :
CN114579714A
申请号 :
CN202011399246.2
公开(公告)日 :
2022-06-03
申请日 :
2020-12-01
授权号 :
暂无
授权日 :
暂无
发明人 :
陈松灿
申请人 :
广州视源电子科技股份有限公司
申请人地址 :
广东省广州市黄埔区云埔四路6号
代理机构 :
北京品源专利代理有限公司
代理人 :
孟金喆
优先权 :
CN202011399246.2
主分类号 :
G06F16/332
IPC分类号 :
G06F16/332  G06F16/33  G06F40/126  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/332
•••查询公式
法律状态
2022-06-03 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332