提高爬虫效率的方法

作者:IPIDEA

2020-10-13 16:01:43

一. 关于爬虫

爬虫,是一种按照一定的规则自动地抓取互联网信息的程序。本质是利用程序获取对我们有利的数据。

 

访问虫,从不是将爬虫完全杜绝;而是想办法将爬虫的访问量允许访问公开数据在一个可接纳的范围,不要让它过于频繁。


 8.291.png


二. 提高爬虫效率的方法

协程。采用协程,让多个爬虫一起工作,可以大幅度提高效率。

 

多进程。使用CPU的多个核,使用几个核就能提高几倍。

 

多线程。将任务分成多个,并发(交替)的执行。

 

分布式爬虫。让多个设备去跑同一个项目,效率也能大幅提升。

 

打包技术。可以将python文件打包成可执行的exe文件,让其在后台执行即可。

 

其他。比如,使用网速好的网络等等。

 

三. 访问虫的措施

允许访问公开数据请求头,即request header。解决方法:我们可以填写user-agent声明自己的身份,有时还要去填写origin和referer声明请求的来源。

 

允许访问公开数据登录,即不登录就不能访问。解决方法:我们可以使用cookies和session的知识去模拟登录。

 

复杂的交互,比如设置“验证码”来阻拦登录。这就比较难做,解决方法1:我们用Selenium去手动输入验证码;方法2:我们用一些图像处理的库自动识别验证码(tesserocr/pytesserart/pillow)。

 

防止账号关联公开数据采集。如果这个IP地址,爬取网站频次太高,那么服务器就会暂时封掉来自这个IP地址的请求。 解决方法:使用time.sleep()来对爬虫的速度进行允许访问公开数据,建立IP代理池或者使用IPIDEA避免IP被允许采集公开数据。


*ipidea提供的服务必须在境外网络环境下使用

热门资讯