动态ip

>

代理ip软件

>

换ip软件

>

HTTP代理

>
Socks5代理
黑核动态ip代理
您的位置: 首页 > 新闻资讯 > 正文

Python3实现并发检验代理池地址的方法

发布时间:2019-05-06 11:11:09 来源:黑核动态ip代理

分享到

  本文实例讲述了Python3实现并发检验代理池地址的方法。分享给大家供大家参考,具体如下:

#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 用协程/线程池并发检验代理有效性
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))
Headers = {
      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
#检验单个代理的有效性
#如果有效,返回该proxy;否则,返回空字符串
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None #声明
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
#输入代理列表(set/list),返回有效代理列表
def GetValidProxyPool(rawProxyPool, desturl, feature):
  validProxyList = list()  #有效代理列表
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in rawProxyPool:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n submit done, waiting for responses\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('proxy:' + proxy)
    if proxy: #有效代理
      validProxyList.append(proxy)
  print('validProxyList size:' + str(len(validProxyList)))
  return validProxyList
#获取原始代理池
def GetRawProxyPool():
  rawProxyPool = set()
  #通过某种方式获取原始代理池......
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    #需要通过代理访问的目标地址
  feature = 'xxx'    #目标网页的特征码
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

  以上就是“Python3实现并发检验代理池地址的方法”的全部内容,你学会了吗?

相关资讯

代理ip软件能帮助你实现优化网站

如今代理IP工具在营销领域,无论是主动式的发布推广信息,还是被动性反制竞争对手的恶意点击来说,都具有不可替代的作用。可细心的人们发现市面上代理IP的软件太多,如

来源:黑核混拨ip加速器网

2019-01-08 17:54:51

Python实现爬虫设置代理IP和伪装成浏览器的方法

今天小编就为大家分享一篇Python实现爬虫设置代理IP和伪装成浏览器的方法,具有很好的参考价值,希望对大家有所帮助!1.python爬虫浏览器伪装#导入url

来源:黑核动态ip代理

2019-05-06 09:39:08

Python3实现并发检验代理池地址的方法

本文实例讲述了Python3实现并发检验代理池地址的方法。分享给大家供大家参考,具体如下:#encoding=utf-8#author: walker

来源:黑核动态ip代理

2019-05-06 11:11:09

HTTP正向代理的两种实现方式

http正向代理的两种方式:一种是普通模式(RFC7230-HTTP/1.1:MessageSyntaxandRouting),一种是隧道模式(Tunnelin

来源:黑核动态ip代理

2019-06-11 09:33:27

HTTP代理服务器的实现

HTTP代理服务(proxyserver)器就是客户端也是服务端,是一个事务处理的中间人,就像下图所展示的一样。图片来源于《HTTP权威指南》代理服务器的作用有

来源:黑核动态ip代理

2019-06-11 09:42:32

怎么使用换IP软件实现高速上网

在互联网日益兴旺的今日,我们每天都在运用阅读器阅读最新信息、上网冲浪等,这成为了现代人必不可少的内容之一。许多网民朋友都纷纷表示,互联网自身属于虚拟世界,上网的

来源:黑核动态ip代理

2019-08-05 14:12:06

换ip软件解决微信投票限制并实现反复投票

明星打榜投票,是否可以换ip继续投票?当下不管是明星还是网红主播,都很多喜欢的,经常有什么榜之类的需要进行投票,但是各位追星小伙伴们平时肯定有这样的苦恼,那就是

来源:黑核动态ip代理

2019-08-24 10:59:33

什么是python代理池?

代理IP大家都知道,今天说一下什么是代理池,以及python代理池。代理池是爬虫、采集、爆破、刷单等必不可少的配备。Python中高层次的数据结构,动态类型和动

来源:黑核混拨ip代理

2019-01-17 17:45:30

互联网工作中ip代理是不可缺少的工具

目前,中国的互联网大军正在不断壮大,各种各样依托互联网的新兴行业正在兴起,哪怕是很多传统行业,为了抢占竞争的制高点,也将跟友商之间的竞争搬到了互联网平台之上。对

来源:黑核混拨ip加速器网

2018-12-27 17:45:23

什么是ip代理软件?可以修改ip地址吗?

经常碰到朋友问,代理IP是做啥的,有什么用。我对他一顿解释,然后他还是云里雾里,好吧,可能是我口才不好,这里写文再解释下。代理IP对于很多人来说,用处很大,他们

来源:黑核混拨ip加速器网

2018-12-27 17:27:18

IP加速器的使用方法和简单问题解决办法

IP加速器,顾名思义就是加速IP,提升网络性能,降低网络延迟。黑核混拨ip加速器是一款ip量大速度快的加速器,非游戏外挂,可以放心使用。IP加速器的客户端设置简

来源:黑核混拨ip加速器网

2018-12-28 10:21:44

在线客服
大客户VIP渠道
点击这里给我发消息
讨论QQ群
客服电话
13318873961