文本去重方法、装置、设备及介质
公开
摘要

本申请提供一种文本去重方法、装置、设备及介质,涉及自然语言处理技术领域,通过获取预设文本库中每一文本的文本特征;根据每一文本的文本特征,确定每一文本的特征向量,并根据每一文本的特征向量生成预设文本库中文本之间的特征矩阵;根据特征矩阵,确定预设文本库中文本之间的相似度信息,根据相似度信息,在预设文本库中筛选出与每一文本相似的第一预设数量的文本;根据第二预设数量的文本的相似度信息以及第三预设数量的文本的相似度信息的关系,确定并去除预设文本库中的待去重文本。采用本技术方案,能够在数据量较大、CPU资源有限的情况下,提高重复的数据信息的计算效率且准确地删除重复的文本。

基本信息
专利标题 :
文本去重方法、装置、设备及介质
专利标题(英):
暂无
公开(公告)号 :
CN114298227A
申请号 :
CN202111649127.2
公开(公告)日 :
2022-04-08
申请日 :
2021-12-29
授权号 :
暂无
授权日 :
暂无
发明人 :
鄢秋霞李昱张圳李斌安飞飞
申请人 :
中国建设银行股份有限公司
申请人地址 :
北京市西城区金融大街25号
代理机构 :
北京同立钧成知识产权代理有限公司
代理人 :
刘丹
优先权 :
CN202111649127.2
主分类号 :
G06K9/62
IPC分类号 :
G06K9/62  G06F40/30  G06F40/284  G06F17/16  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06K
数据识别;数据表示;记录载体;记录载体的处理
G06K9/00
用于阅读或识别印刷或书写字符或者用于识别图形,例如,指纹的方法或装置
G06K9/62
应用电子设备进行识别的方法或装置
法律状态
2022-04-08 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332