一种基于MPP架构数据库的数据去重方法及装置
实质审查的生效
摘要

本发明公开了一种基于MPP架构数据库的数据去重方法,该方法在根据统计参数确定原始数据中待去重的目标数据后,将多指标去重操作转化为多个单一指标去重操作,对目标数据的各去重指标进行逐一去重处理,再按照去重维度聚合各去重子项,本方法中的单一指标逐一去重相比传统的多指标同时去重工作量显著缩减,能有效的解决直接count distinct时计算效率低下、甚至无法运行的问题,同时资源占用也较小,且随着去重指标个数的增加,该方法对于效率的提升效果更为显著,可以实现多指标的快速去重。本发明还公开了一种基于MPP架构数据库的数据去重装置、设备及可读存储介质,具有相应的技术效果。

基本信息
专利标题 :
一种基于MPP架构数据库的数据去重方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN114547012A
申请号 :
CN202210168375.3
公开(公告)日 :
2022-05-27
申请日 :
2022-02-23
授权号 :
暂无
授权日 :
暂无
发明人 :
李恒昌甘剑锋
申请人 :
度小满科技(北京)有限公司
申请人地址 :
北京市海淀区西北旺路10号院西区4号楼6层606
代理机构 :
北京知帆远景知识产权代理有限公司
代理人 :
刘岩磊
优先权 :
CN202210168375.3
主分类号 :
G06F16/215
IPC分类号 :
G06F16/215  G06F16/21  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/215
•••提高数据质量;数据清理,例如重复数据消除、删除无效条目或更正排版错误
法律状态
2022-06-14 :
实质审查的生效
IPC(主分类) : G06F 16/215
申请日 : 20220223
2022-05-27 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332