语言模型训练方法、预测方法、装置及电子设备
实质审查的生效
摘要

本公开是关于一种语言模型训练方法、预测方法、装置及电子设备,其方法包括:获取训练正样本和训练负样本;将训练正样本和训练负样本输入到待训练的语言模型中,对待训练的语言模型进行训练;在基于训练后的语言模型的输出结果所得到的损失函数值小于预设阈值的情况下,将训练后的语言模型确定为目标语言模型;目标语言模型用于预测待识别搜索信息的语义完整度。由于训练负样本是通过将预设搜索信息中的至少一个搜索词删除和/或替换得到的,也就是说,训练负样本中的负标签是通过对搜索词删除或者替换构造得到的,使得负标签更加准确且具有区分度,从而目标语言模型能够更好地区分正负标签,进而能够更加准确地预测待识别搜索信息的语义完整度。

基本信息
专利标题 :
语言模型训练方法、预测方法、装置及电子设备
专利标题(英):
暂无
公开(公告)号 :
CN114386396A
申请号 :
CN202111554325.0
公开(公告)日 :
2022-04-22
申请日 :
2021-12-17
授权号 :
暂无
授权日 :
暂无
发明人 :
曾培阳刘振国
申请人 :
北京达佳互联信息技术有限公司
申请人地址 :
北京市海淀区上地西路6号1幢1层101D1-7
代理机构 :
北京润泽恒知识产权代理有限公司
代理人 :
李燕春
优先权 :
CN202111554325.0
主分类号 :
G06F40/216
IPC分类号 :
G06F40/216  G06F40/30  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F40/216
使用统计方法
法律状态
2022-05-10 :
实质审查的生效
IPC(主分类) : G06F 40/216
申请日 : 20211217
2022-04-22 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332