十年网站开发经验 + 多家企业客户 + 靠谱的建站团队
量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决
小编给大家分享一下python爬虫ip代理池如何做,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
10多年的江门网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。网络营销推广的优势是能够根据用户设备显示端的尺寸不同,自动调整江门建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。成都创新互联从事“江门网站设计”,“江门网站推广”以来,每个客户项目都认真落实执行。
定义代理IP
proxie = { 'http' : 'http://xx.xxx.xxx.xxx:xxxx', 'http' : 'http://xxx.xx.xx.xxx:xxx', .... }
使用代理
response = requests.get(url,proxies=proxies)
如何使用呢?
首先使用 git clone 将源代码拉到你本地
接着在你 clone 下来的文件目录中
安装相关所需的 python 模块:
pip3 install -r requirements.txt
接着就可以运行 run.py 了:
代理池开始运行
* Running on http://0.0.0.0:5555/ (Press CTRL+C to quit)
开始抓取代理
获取器开始执行
Crawling http://www.66ip.cn/1.html 正在抓取 http://www.66ip.cn/1.html 抓取成功 http://www.66ip.cn/1.html 200 成功获取到代理 201.69.7.108:9000 成功获取到代理 111.67.97.58:36251 成功获取到代理 187.32.159.61:51936 成功获取到代理 60.13.42.154:9999 成功获取到代理 106.14.5.129:80 成功获取到代理 222.92.112.66:8080 成功获取到代理 125.26.99.84:60493 ...
运行 run.py 你就可以访问你的代理池了,比如随机获取一个代理 ip 地址:
这样访问之后就会获取到一个代理 ip。
以上是python爬虫ip代理池如何做的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!