深度学习模型的训练方法、预测方法和装置

授权

摘要

本申请实施例公开了一种深度学习模型的训练方法、预测方法和装置，针对人工特征拟合XgBoost模型，并通过XgBoost模型提取特征，将提取的特征输入改进的Transformer模型当中，并进一步进行训练，通过该Transformer模型降低人工特征输入的维度，再将该Transformer输出的特征与BERT模型输出的特征进行连接并共同进行训练。通过这种方法，可以在不损失大量预测精度的基础上，有效地降低人工特征输入的维度，从而有效提高深度迁移学习的预测效果。

基本信息

专利标题：

深度学习模型的训练方法、预测方法和装置

专利标题（英）：

暂无

公开（公告）号：

CN110782008A

申请号：

CN201910983661.3

公开（公告）日：

2020-02-11

申请日：

2019-10-16

授权号：

CN110782008B

授权日：

2022-05-13

发明人：

苏萌王然刘译璟孙伟刘钰苏海波高体伟

申请人：

北京百分点信息科技有限公司

申请人地址：

北京市朝阳区北辰西路8号院2号楼北辰世纪中心A座16层

代理机构：

北京国昊天诚知识产权代理有限公司

代理人：

张阳

优先权：

CN201910983661.3

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06K9/62