一种自然语言模型的获取方法及相关设备
公开
摘要
本申请公开了一种自然语言模型的获取方法及相关设备，具体用于人工智能领域，该方法包括：获取预训练模型，所述预训练模型包括第一词嵌入层，所述第一词嵌入层包括多种语言的混合语言词汇表，所述第一词嵌入层用于根据所述混合语言词汇表对输入语料进行词向量表示；确定所述多种语言中的第一语言，并将所述第一词嵌入层的所述混合语言词汇表替换为所述第一语言对应的第一词汇表；根据所述第一语言的无标注语料对替换后的预训练模型进行训练，更新所述第一词嵌入层的参数；根据更新后的预训练模型的参数调整任务模型的参数；根据所述第一语言对应的第一标注语料对所述任务模型进行训练，并根据训练结果得到第一语言模型。
基本信息
专利标题 ：
一种自然语言模型的获取方法及相关设备
专利标题（英）：
暂无
公开（公告）号 ：
CN114580393A
申请号 ：
CN202011375310.3
公开（公告）日 ：
2022-06-03
申请日 ：
2020-11-30
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
韩骁枫王宝军张宇洋
申请人 ：
华为技术有限公司
申请人地址 ：
广东省深圳市龙岗区坂田华为总部办公楼
代理机构 ：
深圳市深佳知识产权代理事务所(普通合伙)
代理人 ：
陈松浩
优先权 ：
CN202011375310.3
主分类号 ：
G06F40/284
IPC分类号 ：
G06F40/284 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F40/284
词汇分析，例如标记或搭配词
法律状态
2022-06-03 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
