最近工作中遇到一个项目，需要处理一些术语的标准化，需要对一个现有网站进行爬虫得到我们想要的结果。对网站简单分析下，就开始爬了，第一次处理了一万多数据，顺利完成，但后来又有需求，处理3万多数据，接到任务后接着爬，但爬到一半发现请求的返回的状态码全是403，知道被封ip了。为了完成任务，咱也只能想办法了，就准备使用ip代理池，但现有的一些免费ip质量不是太好，就想办法收集了一些提供免费ip的网站，定时从这些网站收集，这样在数量上就有一些优势了，但如果需要大量的代理ip，还是需要购买的。
现在这个项目放到了我的github上，github地址。或者复制链接https://github.com/pangxiaobin/proxy_ip_pool
这个项目主要使用了Django，requests实现。具体使用方法可参考github中的readme。
可以访问http://47.102.205.85:9000/查看示例，里面只有测试数据，切勿大量访问，渣渣服务器。
以上就是针对爬虫爱好者、个人用户小成本用户的方案，可以用来练手，企业用爬虫代理ip，因为重视效率，高并发，对IP质量、有效率也要求高很多，所以推荐购买专业的IP代理服务，比如黑核动态IP代理，IP池目前有千万高质量的稳定IP资源，时长套餐也非常灵活，支持高并发调用，非常适合企业类爬虫采集、补量等业务，高效率API调用，支持测试。
相关资讯
什么是python代理池？
代理IP大家都知道，今天说一下什么是代理池，以及python代理池。代理池是爬虫、采集、爆破、刷单等必不可少的配备。Python中高层次的数据结构,动态类型和动
来源：黑核混拨ip代理
2019-01-17 17:45:30
怎么维护好代理ip池
代理IP现在对于经常使用网络的人来说耳熟能详，目前提供代理IP的网站也有很多，种类齐全，但是质量实在是不敢恭维，所以我们要经过筛选抓取，保存起来供我们使用，不能
来源：黑核混拨ip代理
2019-01-19 17:19:24
Python爬虫为什么使用独享代理IP池效果更好
IP池，也分共享和独享的，但很多商家并不告诉你，而是一味的喊价格多低多低，以低廉的价格来吸引大家的购买使用，但是很多时候都是购买之后，刚开始使用就发现不好用。因
来源：黑核动态ip代理
2019-04-10 14:15:54
突破反爬虫的利器：开源IP代理池
突破反爬虫的一个常用做法是使用代理IP，可以是作为初学者或者个人来说，买一些代理ip成本稍微高一些，因此最近写了一个开源项目IPProxys，用来为个人提供代理
来源：黑核动态ip代理
2019-04-12 11:28:19
Python爬虫为什么使用独享代理IP池更好
IP池，也分共享和独享的，但很多商家并不告诉你，而是一味的喊价格多低多低，以低廉的价格来吸引大家的购买使用，但是很多时候都是购买之后，刚开始使用就发现不好用。因
来源：黑核动态ip代理
2019-04-16 14:00:53
独享代理IP池对Python爬虫效果更好
IP池，也分共享和独享的，但很多商家并不告诉你，而是一味的喊价格多低多低，以低廉的价格来吸引大家的购买使用，但是很多时候都是购买之后，刚开始使用就发现不好用。因
来源：黑核动态ip代理
2019-04-19 10:30:13
爬虫代理池获取ip操作教程
爬虫的过程中，我们经常会遇见很多网站采取了防爬取技术，或者说因为自己采集网站信息的强度和采集速度太大，给对方服务器带去了太多的压力，所以你一直用同一个代理IP爬
来源：黑核动态ip代理
2019-04-19 10:46:21
黑核混拨IP加速器让你知道如何改变ip地址
被论坛禁言了？玩游戏作弊，被封号了？被人屏蔽IP是件很让人不爽的事情，平时正忙的时候被封禁，会有种天塌下来的感觉。如何改变ip地址成了我们比做的事情，不改变IP
来源：黑核混拨ip加速器网
2018-12-25 16:58:44
CenterOS使用qurid搭建高匿代理服务器
CenterOS使用qurid搭建高匿代理服务器要怎么做？下文梳理具体的步骤流程，供大家参考借鉴。一、环境介绍操作系统：CentOS7x64二、概念我们根据其向
来源：黑核动态ip代理
2019-05-11 09:29:05
换ip软件帮您解决ip被封烦恼！
换ip软件帮您解决ip被封烦恼！我想做互联网工作的基本上都需要换下ip吧，很多时候我们做推广经常被封账号，特别是同一个IP自问自答马上封你没商量，但是这些推广也
来源：黑核混拨IP网
2018-12-25 15:52:02
现在采集越来越难如何找到实用的HTTP代理IP
目前，中国的互联网大军正在不断壮大，各种各样依托互联网的新兴行业正在兴起，哪怕是很多传统行业，为了抢占竞争的制高点，也将跟友商之间的竞争搬到了互联网平台之上。对
来源：黑核混拨ip加速器网
2018-12-28 15:56:10
在线客服
.png)
