一种应用于稳定深层机器翻译模型的机器翻译方法
实质审查的生效
摘要
本发明公开一种应用于稳定深层机器翻译模型的机器翻译方法,步骤为:在深层模型的训练过程中,根据输入源语句子X进行每一次反向传播计算时,为深层模型中编码器部分参数的梯度矩阵G设置两个矩阵μ与σ;使用矩阵μ与σ分别代表梯度矩阵G的均值与标准差,并根据梯度矩阵G计算出矩阵μ与σ的值;在模型训练期间的每一次反向传播过程中,使用矩阵μ与σ对梯度矩阵G进行标准化;通过预设的策略与先验知识来控制该标准化的使用阶段和位置,进行机器翻译模型的快速准确训练,最终提升解码时的输出译文的译文质量。本发明可以使得训练过程更加稳定,并且不受限于具体的模型与任务,具有很好的通用性,使模型的效果更加容易在不同的设备上重现。
基本信息
专利标题 :
一种应用于稳定深层机器翻译模型的机器翻译方法
专利标题(英):
暂无
公开(公告)号 :
CN114528856A
申请号 :
CN202210126056.6
公开(公告)日 :
2022-05-24
申请日 :
2022-02-10
授权号 :
暂无
授权日 :
暂无
发明人 :
刘兴宇姜炎宏
申请人 :
沈阳雅译网络技术有限公司
申请人地址 :
辽宁省沈阳市和平区三好街78号东软电脑城C座11层
代理机构 :
沈阳新科知识产权代理事务所(特殊普通合伙)
代理人 :
李晓光
优先权 :
CN202210126056.6
主分类号 :
G06F40/58
IPC分类号 :
G06F40/58 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F40/58
使用机器翻译,例如用于多语言检索,用于客户端设备的服务器端翻译或实时翻译。
法律状态
2022-06-10 :
实质审查的生效
IPC(主分类) : G06F 40/58
申请日 : 20220210
申请日 : 20220210
2022-05-24 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载