爬虫代理IP的获取方式

爬虫是近些年的互联网技术，一方面它是大数据时代数据工作的得力工具，但是，爬虫在进行采集的时候，有时候也会无法访问公开数据，为了保证工作效率，爬虫会在短时间内发出大量请求，占用服务器的带宽，影响正常用户的访问。所以，大多数网站都会设置“访问虫”措施。爬虫无法访问公开数据，实则上是爬虫触发了网站的“访问虫”措施，导致爬虫的IP被允许访问公开数据。此时如果爬虫没有大量IP来做，是无法进行下去的，爬虫工作者可以从什么地方获取可以用的代理IP?IPIDEA全球http下面为大家介绍IP的获取源。

一、第三方平台

有一些平台可以不需成本获取一些IP，直接搜索引擎在官网上找，然后验证代理IP是否有效，延迟时间等等，可以导出来使用，也可以直接右键设置IE代理。不足的是，效率低，不稳定，速度慢，爬出来做一些简单的业务勉强可以完成，一些需要高质量IP的业务只能另寻他法。

二、ADSL拨号

ADSL拨号也就是我们常说的拨号VPS，拨一次号可以换一次IP，相对来说比较稳定，自己控制拨号时间，比开放型代理稳定。但对于爬虫工作来说，还是繁琐效率比较低。

三、自建代理IP

采购一批拨号VPS服务器，利用squid+stunnel搭建一台HTTP高匿代理服务器，proxy也可以搭建。自建代理比较稳定，只有自己使用，效果也比较好。不过这个需要一定技术要求，不适合新手小白。

四、代理IP

建议在选择的时候要根据自身的要求选择，比如有效时间，提取数量，HTTP还是socks5等等，需要从你个人的需求出发，一一概况全部使用情况，自己需要去做出判断。