一种预训练语言模型的训练、诉求转接方法、装置和设备

实质审查的生效

摘要

本发明公开了一种预训练语言模型的训练、诉求转接方法、装置和设备，其中训练方法包括：获取多组训练样本；通过预设的预训练语言模型计算当前训练样本中的两条诉求信息各自的文本向量；基于文本向量对诉求信息的类别和类别匹配情况进行预测，得到预测类别和预测类别匹配结果；根据第一误差以及第二误差校正预设的预训练语言模型的模型参数，第一误差是预测类别和类别标签之间的误差，第二误差是预测类别匹配结果和类别匹配标签之间的误差；当预训练语言模型满足预设的条件时，输出预训练语言模型。本发明提供的技术方案，提高了诉求信息的向量表达准确度。

基本信息

专利标题：

一种预训练语言模型的训练、诉求转接方法、装置和设备

专利标题（英）：

暂无

公开（公告）号：

CN114492452A

申请号：

CN202111607768.1

公开（公告）日：

2022-05-13

申请日：

2021-12-24

授权号：

暂无

授权日：

暂无

发明人：

李圆法蚁韩羚余晓填王孝宇

申请人：

深圳云天励飞技术股份有限公司

申请人地址：

广东省深圳市龙岗区园山街道龙岗大道8288号深圳大运软件小镇17栋1楼

代理机构：

北京三聚阳光知识产权代理有限公司

代理人：

陈刚

优先权：

CN202111607768.1

主分类号：

G06F40/30

IPC分类号：

G06F40/30 G06F40/289 G06F16/35 G06N3/04 G06N3/08 G06Q50/26

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06F

电数字数据处理

G06F40/30

语义分析

法律状态

2022-05-31 ：

实质审查的生效

IPC(主分类) : G06F 40/30
申请日 : 20211224

2022-05-13 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载