模型训练方法、装置、计算机设备、存储介质及程序产品
公开
摘要

本申请实施例提供了一种模型训练方法、装置、计算机设备、存储介质及程序产品,可以应用于人工智能的自然语言处理领域中,该方法包括:获取语言模型的训练数据,训练数据包括会话数据,会话数据包括社交会话中多轮发言产生的发言内容;获取语言模型的预训练任务,预训练任务包括以下至少一项:单词恢复任务、发言者预测任务以及发言顺序判定任务;按照预训练任务对训练数据进行变换处理,得到预训练任务的训练样本;基于训练样本,调用语言模型执行预训练任务,得到训练好的语言模型。采用本申请实施例,可以针对社交会话场景提出语言模型的预训练任务,使得训练得到的语言模型能够较好地学习社交会话场景中的语言特征。

基本信息
专利标题 :
模型训练方法、装置、计算机设备、存储介质及程序产品
专利标题(英):
暂无
公开(公告)号 :
CN114330701A
申请号 :
CN202111200203.1
公开(公告)日 :
2022-04-12
申请日 :
2021-10-14
授权号 :
暂无
授权日 :
暂无
发明人 :
程轶赵瑞辉
申请人 :
腾讯科技(深圳)有限公司
申请人地址 :
广东省深圳市南山区高新区科技中一路腾讯大厦35层
代理机构 :
广州三环专利商标代理有限公司
代理人 :
熊永强
优先权 :
CN202111200203.1
主分类号 :
G06N3/08
IPC分类号 :
G06N3/08  G06N3/04  G06F9/448  G06F16/332  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06N
基于特定计算模型的计算机系统
G06N3/00
基于生物学模型的计算机系统
G06N3/02
采用神经网络模型
G06N3/08
学习方法
法律状态
2022-04-12 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332