一种自动化网络数据采集方法
实质审查的生效
摘要

本发明涉及网络数据技术领域,公开了一种自动化网络数据采集方法,所述采集方法包括:S1、对网络数据进行采集,得到原始网页;S2、对原始网页进行数据提取,得到解析后网页;S3、对解析后网页进行去空、去错、去重复、归一化及残缺值补充处理,得到处理后数据;S4、对处理后数据进行存储;S5、对存储的数据进行处理。本发明的自动化网络数据采集方法能够对第三平台公开的数据进行24小时不间断采集,支持分钟级别第三方平台数据检索同步,多个站点增量部分数据更新能做到秒级更新,无需人工监管,同时通过关键词检索配置,可实现自动化检索的同时过滤掉无关内容,提高精准度,实现无监督、无遗漏、快速可迭代式数据采集。

基本信息
专利标题 :
一种自动化网络数据采集方法
专利标题(英):
暂无
公开(公告)号 :
CN114329145A
申请号 :
CN202210003707.2
公开(公告)日 :
2022-04-12
申请日 :
2022-01-04
授权号 :
暂无
授权日 :
暂无
发明人 :
武亚洲王治胜童曦
申请人 :
陕西数图行信息科技有限公司
申请人地址 :
陕西省西安市高新区丈八一路10号中铁西安中心1栋29层
代理机构 :
代理人 :
优先权 :
CN202210003707.2
主分类号 :
G06F16/951
IPC分类号 :
G06F16/951  G06F16/955  G06F16/27  G06F16/2455  G06F16/23  G06F9/48  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/951
•••索引; 网络抓取技术
法律状态
2022-04-29 :
实质审查的生效
IPC(主分类) : G06F 16/951
申请日 : 20220104
2022-04-12 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332