一种基于网络爬虫的多级页面的级联爬取方法和设备
授权
摘要

本发明涉及一种基于网络爬虫的多级页面的级联爬取方法,包括如下步骤:抓取上级页面并将抓取到的数据存储在上级页面数据解析表中,在上级页面数据解析表中对需要继续抓取下级页面的对象设置主键值,各所述对象对应的主键值均不相同;抓取下级页面并将抓取到的数据存储在下级页面数据解析表中,并对该下级页面数据解析表设置外键值,从上级页面数据解析表中获取该下级页面对应的对象的主键值,然后将其作为所述下级页面数据解析表的外键值,从而实现抓取数据落地后上级网页和下级网页的关联查询。本发明是一种能够还原网页前后逻辑的数据采集模式,确保网页抓取的完整性且按原网页层级顺序存储数据,能够便捷地获取相关联的多层级页面数据。

基本信息
专利标题 :
一种基于网络爬虫的多级页面的级联爬取方法和设备
专利标题(英):
暂无
公开(公告)号 :
CN110472125A
申请号 :
CN201910784160.2
公开(公告)日 :
2019-11-19
申请日 :
2019-08-23
授权号 :
CN110472125B
授权日 :
2022-04-01
发明人 :
邱涛丘水文陈昊陈耀才
申请人 :
厦门商集网络科技有限责任公司
申请人地址 :
福建省厦门市火炬高新区创业园轩业楼3008室
代理机构 :
福州科扬专利事务所
代理人 :
何小星
优先权 :
CN201910784160.2
主分类号 :
G06F16/951
IPC分类号 :
G06F16/951  G06F16/953  G06F16/955  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/951
•••索引; 网络抓取技术
法律状态
2022-04-01 :
授权
2019-12-13 :
实质审查的生效
IPC(主分类) : G06F 16/951
申请日 : 20190823
2019-11-19 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332