一种基于龙格-库塔高阶表示的翻译方法
实质审查的生效
摘要
本发明公开一种基于龙格‑库塔高阶表示的翻译方法，步骤为：将预处理后的源语言输入翻译模型的编码器端，确立残差连接与常微分方程数值求解器之间的隐含联系；引入高阶的龙格‑库塔方法进行网络的结构设计，利用2阶龙格‑库塔以及4阶龙格‑库塔方法来重新设计Transformer结构；将龙格‑库塔中间表示的系数调整为1；伴随网络整体参数的更新自适应的调整不同中间项的权重；利用高阶方法得到的不同时间步的中间状态通过自动学习获得每一个中间表示所对应的系数，得到更精确的层表示，实现基于龙格‑库塔高阶表示的翻译方法。本发明方法在不同模型容量下均取得了显著的性能提升，在稀缺资源语种与富资源语言任务上取得了一致性的性能改善。
基本信息
专利标题 ：
一种基于龙格-库塔高阶表示的翻译方法
专利标题（英）：
暂无
公开（公告）号 ：
CN114528857A
申请号 ：
CN202210143667.1
公开（公告）日 ：
2022-05-24
申请日 ：
2022-02-17
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
杜权田丰宁高博
申请人 ：
沈阳雅译网络技术有限公司
申请人地址 ：
辽宁省沈阳市和平区三好街78号东软电脑城C座11层
代理机构 ：
沈阳新科知识产权代理事务所(特殊普通合伙)
代理人 ：
李晓光
优先权 ：
CN202210143667.1
主分类号 ：
G06F40/58
IPC分类号 ：
G06F40/58 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F40/58
使用机器翻译，例如用于多语言检索，用于客户端设备的服务器端翻译或实时翻译。
法律状态
2022-06-10 ：
实质审查的生效
IPC(主分类) : G06F 40/58
申请日 : 20220217
申请日 : 20220217
2022-05-24 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
