最近工作中遇到一个项目，需要处理一些术语的标准化，需要对一个现有网站进行爬虫得到我们想要的结果。对网站简单分析下，就开始爬了，第一次处理了一万多数据，顺利完成，但后来又有需求，处理3万多数据，接到任务后接着爬，但爬到一半发现请求的返回的状态码全是403，知道被封ip了。为了完成任务，咱也只能想办法了，就准备使用ip代理池，但现有的一些免费ip质量不是太好，就想办法收集了一些提供免费ip的网站，定时从这些网站收集，这样在数量上就有一些优势了，但如果需要大量的代理ip，还是需要购买的。
现在这个项目放到了我的github上，github地址。或者复制链接https://github.com/pangxiaobin/proxy_ip_pool
这个项目主要使用了Django，requests实现。具体使用方法可参考github中的readme。
可以访问http://47.102.205.85:9000/查看示例，里面只有测试数据，切勿大量访问，渣渣服务器。
以上就是针对爬虫爱好者、个人用户小成本用户的方案，可以用来练手，企业用爬虫代理ip，因为重视效率，高并发，对IP质量、有效率也要求高很多，所以推荐购买专业的IP代理服务，比如黑核动态IP代理，IP池目前有千万高质量的稳定IP资源，时长套餐也非常灵活，支持高并发调用，非常适合企业类爬虫采集、补量等业务，高效率API调用，支持测试。
相关资讯
什么是ip代理软件？可以修改ip地址吗？
经常碰到朋友问，代理IP是做啥的，有什么用。我对他一顿解释，然后他还是云里雾里，好吧，可能是我口才不好，这里写文再解释下。代理IP对于很多人来说，用处很大，他们
来源：黑核混拨ip加速器网
2018-12-27 17:27:18
现在玩自媒体需要用到ip代理吗？
如今越来越多的人开始使用微博、今日头条等等各种自媒体平台，因此很多公司很多人都看到了这之中的商机和机会，并且借助自媒体平台来发展自己的生意，也因为自媒体的蓬勃发
来源：黑核混拨ip加速器网
2018-12-27 17:37:53
互联网工作中ip代理是不可缺少的工具
目前，中国的互联网大军正在不断壮大，各种各样依托互联网的新兴行业正在兴起，哪怕是很多传统行业，为了抢占竞争的制高点，也将跟友商之间的竞争搬到了互联网平台之上。对
来源：黑核混拨ip加速器网
2018-12-27 17:45:23
使用代理ip有什么好处？
现在，高匿代理ip时代已经到来，但是，还是有很多人不了解高匿代理ip到底有什么用，虽然随着网络科技的发展，网络对我们的生活带来了很多方便，也带来了更多的选择，网
来源：黑核混拨ip加速器网
2018-12-28 15:00:45
爬虫技术工程师为什么离不开ip代理
说到爬虫，自然离不开爬虫代理地址。爬虫是一门随着互联网大数据而应运而生的产物，它主要是为了在海量的网络数据中采集分析有效的数据而诞生的一门技术。无需多言，爬虫技
来源：黑核混拨ip加速器网
2018-12-28 15:24:23
现在采集越来越难如何找到实用的HTTP代理IP
目前，中国的互联网大军正在不断壮大，各种各样依托互联网的新兴行业正在兴起，哪怕是很多传统行业，为了抢占竞争的制高点，也将跟友商之间的竞争搬到了互联网平台之上。对
来源：黑核混拨ip加速器网
2018-12-28 15:56:10
什么情况下需要ip代理软件 ip代理软件用途
对于网络营销推广和SEO的朋友来说，数据抓取和模拟访问都是必备的工作，这两种方式都需要有大量的IP资源支持，很多用户在一些网站上面批量注册帐号、发布留言评论都会
来源：黑核混拨ip加速器网
2018-12-28 16:28:33
CenterOS使用qurid搭建高匿代理服务器
CenterOS使用qurid搭建高匿代理服务器要怎么做？下文梳理具体的步骤流程，供大家参考借鉴。一、环境介绍操作系统：CentOS7x64二、概念我们根据其向
来源：黑核动态ip代理
2019-05-11 09:29:05
黑核混拨IP加速器让你知道如何改变ip地址
被论坛禁言了？玩游戏作弊，被封号了？被人屏蔽IP是件很让人不爽的事情，平时正忙的时候被封禁，会有种天塌下来的感觉。如何改变ip地址成了我们比做的事情，不改变IP
来源：黑核混拨ip加速器网
2018-12-25 16:58:44
换ip软件帮您解决ip被封烦恼！
换ip软件帮您解决ip被封烦恼！我想做互联网工作的基本上都需要换下ip吧，很多时候我们做推广经常被封账号，特别是同一个IP自问自答马上封你没商量，但是这些推广也
来源：黑核混拨IP网
2018-12-25 15:52:02
什么代理ip软件简单方便能很好的隐藏自己的信息
网页代理是网上现在非常流行的一种东西，我们在上网浏览网页的时候都是通过浏览器进行的，每个人上网的时候都有自己的ip,这个ip就代表了你的行踪，别人可以通过追查你
来源：黑核混拨ip加速器网
2019-01-05 17:07:22
推荐阅读
在线客服
.png)
