一种高效网络爬取方法及装置
实质审查的生效
摘要
本发明公开了一种高效网络爬取方法及装置,本发明基于预设关键词和初检的种子URL来设置分布式爬虫框架,通过该分布式爬虫框架来对排名后的种子URL排名进行数据爬取,然后在对所爬取的URL重新进行URL排名,再基于该新URL排名再次进行数据爬取,重复执行这一步骤,直到重复执行爬取数据的次数达到预设的数据爬取次数阈值时候结束数据爬取,最后将所爬取到的所有URL中与预设关键词的匹配度超过预设匹配度阈值的URL作为最终爬取结果。也即本发明是不断对所爬取到的URL进行排名,然后按照排名来进行数据爬取,从而实现高效地对快速扩张的网络资源规模进行有效爬取。
基本信息
专利标题 :
一种高效网络爬取方法及装置
专利标题(英):
暂无
公开(公告)号 :
CN114443927A
申请号 :
CN202210061069.X
公开(公告)日 :
2022-05-06
申请日 :
2022-01-19
授权号 :
暂无
授权日 :
暂无
发明人 :
付圣峰楚立鹏成霄范强孙慧刘俊荣王亮亮张仁群张博王永皎尤晓艳
申请人 :
中国电子科技集团公司电子科学研究院;青岛智汇泰鼎科技开发有限公司
申请人地址 :
北京市石景山区双园路11号
代理机构 :
工业和信息化部电子专利中心
代理人 :
张然
优先权 :
CN202210061069.X
主分类号 :
G06F16/951
IPC分类号 :
G06F16/951 G06F16/955 G06F9/50
IPC结构图谱
G
G部——物理
G06
计算;推算或计数
G06F
电数字数据处理
G06F16/951
•••索引; 网络抓取技术
法律状态
2022-05-24 :
实质审查的生效
IPC(主分类) : G06F 16/951
申请日 : 20220119
申请日 : 20220119
2022-05-06 :
公开
注:本法律状态信息仅供参考,即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载