前嗅大数据发表于2020年3月9日17:22最后回复于2020年3月9日17:22

前嗅ForeSpider教程:IP代理设置

137浏览量

0评论

今天,小编主要为大家介绍一下:前嗅ForeSpider中的IP代理设置,主要内容包括:启用IP代理,静态代理设置,动态代理设置,这三大部分。

具体内容如下:

一,启用IP代理

启用IP代理采集时,需要进行代理配置。

1.启用IP代理

需选中“启用IP代理”,才能启用IP代理功能。

【启用代理IP】

2.启用代理加速

启用代理加速后,可以在采集过程中自动筛选无效和低效率的代理IP(屏蔽错误率超过50%,请求次数>3次的IP),优先使用高效的代理,提升采集的效率和数据质量。

3.本机IP混用策略

当代理IP失效时,选择是否启用本地网络。

4.添加代理

启用代理后,在IP资源列表中点击“ ”添加一个资源,在弹框中填写资源名称,选择静态动态代理,填写请求频率和备注。

【添加IP】

创建好ip资源之后,点击页面右侧的加号,填写IP地址,端口选择代理类型,填写用户名和密码。这样代理IP就配置好了。

二,静态代理配置

以阿布云为例,购买之后会展示在阿布云官网的http隧道中。

1.创建IP资源

启用代理IP之后,点击IP资源列表左侧加号,填写代理资源名称,请求频率对照购买的每秒请求数填写点击确定,并勾选点击保存。

注意:在阿布云买的是动态代理,但是在软件中需设置为静态代理。

【配置静态IP】

2.添加代理

点击右侧加号添加代理,对应关系见下表: 

添加好代理账号,点击保存就完成了代理IP的配置。

【配置静态IP】

三,动态代理配置

以无忧代理为例,对照下图配置:

1.创建IP资源

①请求频率:每秒每个IP所允许的请求次数,某些代理商对此有所限制时,需要填写。

②服务端口:对并行运行软件时有效,多进程共享代理IP时需要填写。

【配置动态IP】

2.右侧需要选择的内容

①协议类型:选择代理的协议类型,软件支持http/https/socket代理。

②返回格式:选择动态IP的返回格式。包括未知、Text、Json、XML。

③刷新周期:指代理IP的有效时长。

④请求地址:粘贴代理商的请求地址。

⑤POST DATA:根据代理不同,post请求的情况下填写该内容。


发布新帖

私信

举报