高斯误差线性单元的优化方法、系统、设备及介质

授权

摘要

本发明公开了一种高斯误差线性单元的优化方法、系统、设备和介质，其中优化方法包括：接收自然语言处理的输入数据；以所述输入数据为输入参数，调用第一高斯误差线性单元或者第二高斯误差线性单元；第一高斯误差线性单元的实现方式为：使用mkl数学库中vsErf接口函数和mkl数学库中的四则运算接口函数分别代替BERT模型中的高斯误差线性单元的erf函数和四则运算接口函数；第二高斯误差线性单元的实现方式为：使用Intrinsic指令集中erf接口函数和Intrinsic指令集中的四则运算接口函数分别代替BERT模型中高斯误差线性单元的erf函数和四则运算接口函数。第一、二高斯误差线性单元计算效率明显提高，增强了BERT模型的性能。

基本信息

专利标题：

高斯误差线性单元的优化方法、系统、设备及介质

专利标题（英）：

暂无

公开（公告）号：

CN112433761A

申请号：

CN202011385025.X

公开（公告）日：

2021-03-02

申请日：

2020-12-01

授权号：

CN112433761B

授权日：

2022-06-10

发明人：

周健倩周姗李健

申请人：

上海携旅信息技术有限公司

申请人地址：

上海市嘉定区金园一路1331号401室-4

代理机构：

上海弼兴律师事务所

代理人：

杨东明

优先权：

CN202011385025.X

主分类号：

G06F9/30

IPC分类号：

G06F9/30 G06F9/448