通过子栏目进入链接列表采集正文数据
781浏览量
0评论
第一步:新建任务
①点击左上角“加号”新建任务,如图1:
【图1】
②在弹窗里填写采集地址,任务名称,如图2:
【图2】
③点击下一步,选择进行数据抽取还是链接抽取,本次采集当前页面子栏目下的列表房源的正文数据,子栏目房源列表是通过点击子栏目链接进入的,所以本次需要抽取子栏目链接,所以点击抽取链接,选择子栏目,如图3:
【图3】
④完成后模板抽取配置列表有两个模板,默认模板和子栏目。默认模板下自动生成一个链接抽取,名称为子栏目,此链接已与子栏目模板关联,如图4。
【图4】
第二步:通过地址过滤,得到所需的子栏目链接。
①点击采集预览,在采集预览中有于目标链接相似的其他链接,可通过地址过滤得到二手房子栏目链接。找到所需要的子栏目链接,右击复制链接,如图5所示。
【图5】
②勾选地址过滤,过滤规则选择包含,将复制的目标地址粘入,使用过滤串“\E”得到二手房子栏目链接,如图6所示。
过滤串规则说明:\E 文件结束(忽略所有请求参数)
【图6】
③点击采集预览确认链接是否过滤完全,如图7
【图7】
第三步:填写子栏目模板示例地址并新建链接抽取
①填写示例地址,将模板一过滤得到的链接,作为子栏目的示例地址,即二手房子栏目列表页链接,如图8所示。
【图8】
②直接点击子栏目模板,点击上面“新建链接抽取”按钮,得到链接抽取,如图9。
【图9】
第四步:通过地址过滤,得到所需列表链接。
①右击模板预览找到房源列表链接,如图10所示。观察链接得出规律使用过滤串得到目标链接。
【图10】
②勾选地址过滤,过滤规则选择包含,将复制的目标地址粘入,使用共用词“chushou”过滤得到目标链接,如图11。
【图11】
③点击采集预览确认链接是否过滤完全,如图12
【图12】
第五步:创建翻页链接抽取
方法一:创建任务,勾选链接抽取,直接选择链接列表和普通翻页,如图13。
【图13】
方法二:如果创建任务时,只勾选了链接列表,可以点击上一步,回到模板层,补选翻页链接抽取,点击下一步,创建翻页链接。
方法三:直接点击模板二,点击上面“新建链接抽取”按钮,得到链接抽取,并重名命为翻页,如图14。