基于ChineseBERT模型和注意力机制的化工突发事件...
实质审查的生效
摘要
本发明公开了一种基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法，首先对文本数据进行文本预处理；然后，对词语进行注意力机制处理，提取单词和子序列的信息依赖关系；与此同时，基于改进ChineseBERT预训练模型进行拼音信息和字符信息的提取；之后对拼音信息和字符信息进行矩阵融合，同时加上位置信息，保持上下文语义的完整性，通过经典的Bert模型进行处理，使用参数共享机制，得到最终的信息特征向量；对得到的上下文语义向量和信息依赖关系向量融合，作为CNN的输入，得到最终的化工新闻分类结果。本发明充分优化了文本的拼音字符语义信息；提取词语的依赖关系和局部依赖关系的问题；通过Bert模型参数共享机制降低时间复杂度的问题，有效的提高文本分类的精确度。
基本信息
专利标题 ：
基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法
专利标题（英）：
暂无
公开（公告）号 ：
CN114510569A
申请号 ：
CN202210030824.8
公开（公告）日 ：
2022-05-17
申请日 ：
2022-01-12
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
陈晓兵康丽卢佳琪包涵张润张冰莹
申请人 ：
淮阴工学院
申请人地址 ：
江苏省淮安市洪泽区东七街三号高新技术产业园A12-2(淮阴工学院技术转移中心洪泽分中心)
代理机构 ：
南京苏高专利商标事务所(普通合伙)
代理人 ：
柏尚春
优先权 ：
CN202210030824.8
主分类号 ：
G06F16/35
IPC分类号 ：
G06F16/35 G06F40/289 G06F40/30 G06N3/04 G06N3/08
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06F
电数字数据处理
G06F16/35
••聚类；分类
法律状态
2022-06-03 ：
实质审查的生效
IPC(主分类) : G06F 16/35
申请日 : 20220112
申请日 : 20220112
2022-05-17 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
