一种基于注意力机制的神经网络模型

实质审查的生效

摘要

一种基于注意力机制的神经网络模型，包括位置编码与数据编码、多头自注意力机制(Muti‑Head‑Self Attention)、残差连接与层归一化(Add&Norm)、前馈神经网络(feed forward)、卷积神经网络(CNN)这五个模块，残差连接与层归一化模块使用了两次，其他模块各使用一次，利用深度学习技术融合语言与图像数据信息，将跨媒体数据用在舆情分析上，并且两种类型的数据能够共享模型参数，节约了成本资源，含义理解透彻，能够有效的进行舆情分析。

基本信息

专利标题：

一种基于注意力机制的神经网络模型

专利标题（英）：

暂无

公开（公告）号：

CN114462567A

申请号：

CN202111534320.1

公开（公告）日：

2022-05-10

申请日：

2021-12-15

授权号：

暂无

授权日：

暂无

发明人：

陈龙黄晓华王文静曾思睿谢飞管子玉赵伟屈乐王和旭

申请人：

西安邮电大学

申请人地址：

陕西省西安市长安区西长安街618号

代理机构：

北京权智天下知识产权代理事务所(普通合伙)

代理人：

卢超

优先权：

CN202111534320.1

主分类号：

G06N3/04

IPC分类号：

G06N3/04 G06N3/08 G06V10/764 G06V10/80 G06V10/82 G06K9/62 G06F16/35

IPC结构图谱

G部——物理

G06

计算；推算或计数

G06N

基于特定计算模型的计算机系统

G06N3/00

基于生物学模型的计算机系统

G06N3/02

采用神经网络模型

G06N3/04

体系结构，例如，互连拓扑

法律状态

2022-05-27 ：

实质审查的生效

IPC(主分类) : G06N 3/04
申请日 : 20211215

2022-05-10 ：

公开

注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。

文件下载

暂无PDF文件可下载