数据处理方法以及装置、文本处理方法以及装置
实质审查的生效
摘要
本说明书实施例提供数据处理方法以及装置、文本处理方法以及装置,其中所述数据处理方法应用于文本处理模型的注意力层,包括:接收第一文本矩阵和第二文本矩阵;对所述第一文本矩阵和所述第二文本矩阵进行离散化处理,获得第一离散文本矩阵和第二离散文本矩阵;提取所述第一离散文本矩阵和所述第二离散文本矩阵的特征信息,生成目标查询矩阵和目标键值矩阵;基于所述目标查询矩阵和所述目标键值矩阵计算矩阵距离,基于所述矩阵距离确定所述第一文本矩阵和所述第二文本矩阵之间的注意力值,通过减少乘法操作,降低了耗能较高的运算方式,也提高了文本处理的场景下模型的处理性能。
基本信息
专利标题 :
数据处理方法以及装置、文本处理方法以及装置
专利标题(英):
暂无
公开(公告)号 :
CN114548047A
申请号 :
CN202210436919.X
公开(公告)日 :
2022-05-27
申请日 :
2022-04-25
授权号 :
暂无
授权日 :
暂无
发明人 :
万宇杨宝嵩刘大一恒张海波陈博兴谢军
申请人 :
阿里巴巴达摩院(杭州)科技有限公司
申请人地址 :
浙江省杭州市余杭区五常街道文一西路969号3幢5层516室
代理机构 :
北京智信禾专利代理有限公司
代理人 :
刘晓楠
优先权 :
CN202210436919.X
主分类号 :
G06F40/151
IPC分类号 :
G06F40/151
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F40/151
转换
法律状态
2022-06-14 :
实质审查的生效
IPC(主分类) : G06F 40/151
申请日 : 20220425
申请日 : 20220425
2022-05-27 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载