Python3Método de implementação da verificação de proxy concorrente

Este exemplo mostra como o Python3Método de verificação concorrente da pool de endereços de proxy implementada. Compartilho com todos para referência, conforme a seguir:

#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: Usando coroutines/Verificação concorrente da validade dos proxies
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))

      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
# verifica a validade de um único proxy
# se válido, retorna o proxy; caso contrário, retorna uma string vazia
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None # declaração
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
# entrada da lista de proxies (set/lista)，retorna a lista de proxies válidos
def GetValidProxyPool(rawProxyPool, desturl, feature):
  validProxyList = list()  # lista de proxies válidos
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in rawProxyPool:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n concluído, aguardando respostas\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('proxy:') + proxy)
    if proxy: # proxy válido
      validProxyList.append(proxy)
  print('tamanho do validProxyList:') + str(len(validProxyList))
  return validProxyList
# Obtenha o pool de proxies originais
def GetRawProxyPool():
  rawProxyPool = set()
  # Obtenha o pool de proxies originais de alguma forma...
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    # Endereço alvo que precisa ser acessado através de proxy
  feature = 'xxx'    # Código de característica da página alvo
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

Leitores interessados em mais conteúdo sobre Python podem consultar as seções especiais deste site: 'Tutorial Clássico de Entrada e Avançado em Python', 'Resumo de Técnicas de Manipulação de URL em Python', 'Resumo de Técnicas de Manipulação de Imagens em Python', 'Tutorial de Estruturas de Dados e Algoritmos em Python', 'Resumo de Técnicas de Programação de Socket em Python', 'Resumo de Técnicas de Uso de Funções em Python', 'Resumo de Técnicas de Manipulação de Strings em Python' e 'Resumo de Técnicas de Manipulação de Arquivos e Diretórios em Python'.

Espero que o conteúdo deste artigo ajude a todos a programar em Python.

Declaração: o conteúdo deste artigo é extraído da Internet, pertence ao respectivo proprietário, foi contribuído e carregado voluntariamente pelos usuários da Internet, este site não possui direitos de propriedade, não foi editado manualmente e não assume responsabilidades legais relacionadas.3codebox.com (ao enviar e-mail, substitua # por @) para denunciar, forneça provas relevantes e, uma vez confirmada, o site deletará imediatamente o conteúdo suspeito de infringir direitos autorais.