发表于2021年9月6日18:44最后回复于2021年9月6日18:44

【从零开始学爬虫】采集B站UP主数据

54浏览量

0评论

l 采集网站

【场景描述】采集B站动漫分类中所有UP主数据。

【源网站介绍】

B站,全名哔哩哔哩,英文名称:bilibili,https://www.bilibili.com/v/channel/type/1,现为中国年轻世代高度聚集的文化社区和视频平台,该网站于2009年6月26日创建,被粉丝们亲切地称为“B站”   。

【使用工具】前嗅ForeSpider数据采集系统,点击下方链接可免费下载

ForeSpider免费版本下载地址

【入口网址】https://www.bilibili.com/v/channel/type/1

【采集内容】

采集B站动漫分类中所有up主信息,字段包括:up主名称、id、视频名称、视频链接、观看量、点赞量等。

 

【采集效果】如下图所示:

l 思路分析

配置思路概览:


 l 配置步骤

1. 新建采集任务

选择【采集配置】,点击任务列表右上方【+】号可新建采集任务,将采集入口地址填写在【采集地址】框中,【任务名称】自定义即可,点击下一步。

 


2.获取类表请求链接

①在浏览器上观察该页面翻页,翻页类型为瀑布流翻页,推测翻页链接在请求中。

②点击F12,继续往后翻页,观察可找到翻页请求在如下图所示的请求中。

 


③复制翻页请求链接:

 



④同样方法,找到第三页和第四页请求链接,并复制出来。

⑤观察链接,发现规律如下图所示:

 



⑥写翻页链接脚本,具体操作如下所示:

 



脚本文本:

url u;//定义一个url

for(int i = 1;i <= 20;i++)//写一个for循环,采集前20页内容

{

var y=i*7;//定义y为i*7

u.title = i;//输出url名称为页数

u.urlname = "https://api.bilibili.com/x/web-interface/web/channel/category/channel_arc/list?id=1&offset="+y;//根据翻页请求规律拼翻页请求链接

u.entryid = CHANN.id;//

u.tmplid = 2;关联模板2

RESULT.AddLink(u);

}


⑦采集预览,如下图所示,表示翻页链接已生成。

 



3.采集up主信息

①在浏览器中打开任意一个翻页请求的链接,可发现up主的信息就在返回的数据值中。而且每个【archive_channels】的数组中有6个值,每个值中的【archives】数组中有6个值即为每个up主的信息。

 



②通过观察可发现,视频链接规律为:

https://www.bilibili.com/video/+视频id+?spm_id_from=

Up主主页链接为:

https://space.bilibili.com/+up主id+?spm_id_from=

③新建模板02,在其下新建一个数据抽取。

 



④新建一个数据表单,具体步骤和字段属性如下所示:

 



⑤关联数据表单,如下图所示:

 



⑥脚本取值,新建脚本,具体如下图所示:

 



脚本文本如下所示:

var ur=URL.urlname;//定义ur变量为当前请求链接,即翻页请求链接

var doc = EXTRACT.OpenDoc(CHANN, ur, "");//打开请求

var tstr = doc.GetDom().GetSource().ToStr().Right("archive_channels\":");//打开请求中的dom树,获取源码,并取archive_channels":右侧的所有源码

jScript js;//定义一个js

var obj = js.RunJson(tstr);//执行tstr代码并返回一个对象

var k=1;//定义k为1,为后续自增主键准备

for(var i=0;i<=6;i++){//for循环取【archive_channels】中的6个对象

var obj_a=obj[i].archives;//定义obj_a为第i个对象中的【archives】数组

for(var j=0;j<=5;j++){//for循环取【archives】中的6个对象

var obj_b=obj_a[j];//obj_b为数组中的第j个对象

var title=obj_b.name;//title为j对象中的name值

var id=obj_b.id;//id为j对象中的id值

var view_count=obj_b.view_count;//view_count为j对象中的view_count值

var like_count=obj_b.like_count;//like_count为j对象中的like_count值

var author_name=obj_b.author_name;//author_namet为j对象中的author_name值

var author_id=obj_b.author_id;//author_id为j对象中的author_id值

var bvid=obj_b.bvid;//bvid为j对象中的bvid值

record re;

re.id= k;//主键

re.title = title;//视频名

re.videoid = id;//视频id

re.view_count = view_count; //播放量

re.like_count = like_count;//点赞量

re.author_name = author_name;//up主名

re.author_url = "https://space.bilibili.com/"+author_id+"?spm_id_from=";//uo主主页链接

re.videourl ="https://www.bilibili.com/video/"+bvid+"?spm_id_from==";//视频页链接

RESULT.AddRec(re,this.schemaid);

k=k+1;//k自增

}

}

EXTRACT.CloseDoc(doc);//关闭请求


⑥采集预览



 

l 采集步骤

模板配置完成,采集预览没有问题后,可以进行数据采集。

①首先要建立采集数据表:

选择【数据建表】,点击【表单列表】中该模板的表单,在【关联数据表】中选择【创建】,表名称自定义,这里命名为【bilibili】(注意命名不能用数字和特殊符号),点击【确定】。创建完成,勾选数据表,并点击右上角保存按钮。

 



②选择【数据采集】,勾选任务名称,点击【开始采集】,则正式开始采集。

 



③采集中:

 



④采集结束后,可以在【数据浏览】中,选择数据表查看采集数据,并可以导出数据。

 



⑤导出的文件打开如下图所示:




l 前嗅简介

前嗅大数据,国内领先的研发型大数据专家,多年来致力于大数据技术的研究与开发,自主研发了一整套从数据采集、分析、处理、管理到应用、营销的大数据产品。前嗅致力于打造国内第一家深度大数据平台!

发布新帖

私信

举报