一种相对位置编码方法及系统
实质审查的生效
摘要
本发明提出一种相对位置编码方法和系统，包括：构建包括多头注意层的递归神经网络，获取待相对位置编码的数据序列，将该数据序列进行拆分后并行输入该多头注意层，该多头注意层通过计算拆分后数据在该数据序列中的相对位置，为每一个拆分后数据分配注意力分数，并基于各拆分后数据对应的注意力分数，生成各拆分后数据的相对位置编码。
基本信息
专利标题 ：
一种相对位置编码方法及系统
专利标题（英）：
暂无
公开（公告）号 ：
CN114417847A
申请号 ：
CN202111595100.X
公开（公告）日 ：
2022-04-29
申请日 ：
2021-12-24
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
杜子东戴文娟孙正刘小蒙
申请人 ：
中国科学院计算技术研究所
申请人地址 ：
北京市海淀区中关村科学院南路6号
代理机构 ：
北京律诚同业知识产权代理有限公司
代理人 ：
祁建国
优先权 ：
CN202111595100.X
主分类号 ：
G06F40/284
IPC分类号 ：
G06F40/284 G06F40/30 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F40/284
词汇分析，例如标记或搭配词
法律状态
2022-05-20 ：
实质审查的生效
IPC(主分类) : G06F 40/284
申请日 : 20211224
申请日 : 20211224
2022-04-29 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
