提升回复生成模型抗噪性能的方法及回复生成方法
实质审查的生效
摘要
本发明公开一种提升回复生成模型抗噪性能的方法,包括获取无噪声的训练样本,并生成无噪声输入序列;根据无噪声输入序列生成相应的有噪声输入序列;基于所述无噪声输入序列和所述相应的有噪声输入序列输入至编码器进行噪声预测训练;根据所述编码器的输出和所述训练样本对解码器进行回复生成训练。训练过程中,噪声预测训练和回复生成训练同时进行,共用相同的学习率。这个网络使得Transformer编码层除了正常的学习语言特征表示外,同时强化编码层对噪声字符的表示性能。最终,输入序列在经过编码端的特征表示后,参与解码,使得解码模型逐渐学习到处理噪声的性能。
基本信息
专利标题 :
提升回复生成模型抗噪性能的方法及回复生成方法
专利标题(英):
暂无
公开(公告)号 :
CN114333851A
申请号 :
CN202111667881.9
公开(公告)日 :
2022-04-12
申请日 :
2021-12-31
授权号 :
暂无
授权日 :
暂无
发明人 :
朱钦佩缪庆亮
申请人 :
思必驰科技股份有限公司
申请人地址 :
江苏省苏州市苏州工业园区新平街388号腾飞创新园14栋
代理机构 :
北京商专永信知识产权代理事务所(普通合伙)
代理人 :
黄谦
优先权 :
CN202111667881.9
主分类号 :
G10L17/04
IPC分类号 :
G10L17/04 G10L19/08 G10L21/0264
IPC结构图谱
G
G部——物理
G10
乐器;声学
G10L
语音分析或合成;语音识别;语音或声音处理;语音或音频编码或解码
G10L17/00
讲话者辨认或验证
G10L17/04
训练,登记或模型的建立
法律状态
2022-04-29 :
实质审查的生效
IPC(主分类) : G10L 17/04
申请日 : 20211231
申请日 : 20211231
2022-04-12 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载