一种用于新闻博客类网站的通用低代码爬虫方法及系统
实质审查的生效
摘要

本发明公开一种用于新闻博客类网站的通用低代码爬虫方法及系统,属于网络爬虫技术领域。方法的核心步骤包括:创建各待爬取网站的配置文件;选择运行方式并加载目标网站的各项配置;提取目标网站导航栏中所有分类导航的链接及类别名;对各分类导航链接,提取文章列表页面的所有文章链接并加入待爬取列表;对待爬取列表中各文章,提取文章页面资源中的各项信息并进行持久化存储;重复执行直至完成所有爬取任务。爬虫系统提供的能力主要包括自定义功能扩展、多任务管理、多种方式持久化存储、兼容不同类型网站、日志及进度管理等方面。本发明只需添加待爬取网站的各项配置,即可完成满足基本需求的文章爬取,大幅度提升爬虫程序开发和维护效率。

基本信息
专利标题 :
一种用于新闻博客类网站的通用低代码爬虫方法及系统
专利标题(英):
暂无
公开(公告)号 :
CN114491206A
申请号 :
CN202210001246.5
公开(公告)日 :
2022-05-13
申请日 :
2022-01-04
授权号 :
暂无
授权日 :
暂无
发明人 :
杨国武谈振伟杜佩佩孙相鹏董广县
申请人 :
电子科技大学
申请人地址 :
四川省成都市高新区(西区)西源大道2006号
代理机构 :
电子科技大学专利中心
代理人 :
吴姗霖
优先权 :
CN202210001246.5
主分类号 :
G06F16/951
IPC分类号 :
G06F16/951  G06F16/954  
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/951
•••索引; 网络抓取技术
法律状态
2022-05-31 :
实质审查的生效
IPC(主分类) : G06F 16/951
申请日 : 20220104
2022-05-13 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
  • 联系电话
    电话:023-6033-8768
    QQ:1493236332
  • 联系 Q Q
    电话:023-6033-8768
    QQ:1493236332
  • 关注微信
    电话:023-6033-8768
    QQ:1493236332
  • 收藏
    电话:023-6033-8768
    QQ:1493236332