一种面向公共资源交易数据的清洗去重方法及其系统
授权
摘要
本发明涉及一种面向公共资源交易数据的清洗去重方法及其系统,该公共资源交易数据所对应的文本以文本数据记录形式存储在数据集中;其中,按照预设规则对数据集进行分组,控制每个分组内的文本数据记录数量;基于最长公共子序列计算每一分组内各个文本数据记录之间的数据相似度;当两条文本数据记录之间的数据相似度大于预定阈值时,进一步对比这两条文本数据记录的命名实体信息,当这两条文本数据记录的命名实体信息相同时,判断属于重复数据,否则判断属于非重复数据。通过多维度的交叉验证方式来确定来自公共资源交易数据中的重复信息,能够在提高文本处理性能的基础上进一步防止误判重复数据。
基本信息
专利标题 :
一种面向公共资源交易数据的清洗去重方法及其系统
专利标题(英):
暂无
公开(公告)号 :
CN110196848A
申请号 :
CN201910278683.X
公开(公告)日 :
2019-09-03
申请日 :
2019-04-09
授权号 :
CN110196848B
授权日 :
2022-04-12
发明人 :
刘全超祝华令付永晖
申请人 :
广联达科技股份有限公司
申请人地址 :
北京市海淀区西北旺东路10号院东区13号楼广联达信息大厦
代理机构 :
北京和信华成知识产权代理事务所(普通合伙)
代理人 :
胡剑辉
优先权 :
CN201910278683.X
主分类号 :
G06F16/215
IPC分类号 :
G06F16/215 G06F16/951
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/215
•••提高数据质量;数据清理,例如重复数据消除、删除无效条目或更正排版错误
法律状态
2022-04-12 :
授权
2019-09-27 :
实质审查的生效
IPC(主分类) : G06F 16/215
申请日 : 20190409
申请日 : 20190409
2019-09-03 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载