一种自然语言理解模型训练方法及装置
实质审查的生效
摘要
本申请涉及人工智能技术领域,公开了一种自然语言理解模型训练方法及装置,用以在压缩自然语言理解模型的同时,尽可能提高模型的精度和性能。该方法包括:通过训练语句以及级联后的老师自然语言理解模型和感知损失网络,对所述感知损失网络进行训练;将所述训练语句输入级联后的所述老师自然语言理解模型和训练后的所述感知损失网络进行处理,得到第三句向量,以及将所述训练语句输入级联后的学生自然语言理解模型和训练后的所述感知损失网络进行处理,得到第四句向量;计算所述第四句向量相对所述第三句向量的感知损失;根据所述感知损失调整所述学生自然语言理解模型的参数,获得训练完成的学生自然语言理解模型。
基本信息
专利标题 :
一种自然语言理解模型训练方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN114490922A
申请号 :
CN202011165670.0
公开(公告)日 :
2022-05-13
申请日 :
2020-10-27
授权号 :
暂无
授权日 :
暂无
发明人 :
韩骁枫吴国星
申请人 :
华为技术有限公司
申请人地址 :
广东省深圳市龙岗区坂田华为总部办公楼
代理机构 :
北京同达信恒知识产权代理有限公司
代理人 :
朱琳琳
优先权 :
CN202011165670.0
主分类号 :
G06F16/33
IPC分类号 :
G06F16/33 G06F16/332 G06F40/211 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/33
••查询
法律状态
2022-05-31 :
实质审查的生效
IPC(主分类) : G06F 16/33
申请日 : 20201027
申请日 : 20201027
2022-05-13 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载