dont_proxy n'efface pas le champ proxy de Scrapy
Coordonnez un indicateur de contournement personnalisé avec les métadonnées de proxy consommées par le middleware intégré de Scrapy.
Une requête peut se passer d'un middleware proxy personnalisé et néanmoins porter une URL de proxy active dans ses métadonnées. Le HttpProxyMiddleware intégré de Scrapy lit meta["proxy"] ; il n'interprète pas un indicateur dont_proxy générique.
Pour une requête destinée à passer directement, définissez explicitement :
request.meta["proxy"] = None
Le None explicite empêche le middleware intégré de choisir un proxy dans ses réglages d'environnement pour cette requête. Supprimer simplement la clé autorise de nouveau cette sélection automatique.
Si un autre middleware installé utilise dont_proxy, conservez cet indicateur également pour son usage documenté. Organisez l'ordre des middlewares afin qu'un composant ultérieur ne réattribue pas d'URL de proxy. Inspectez les métadonnées après le dernier composant susceptible de choisir une route.
Un 407 après la définition d'un indicateur de contournement personnalisé est cohérent avec une route proxy subsistante, mais le statut seul n'indique pas quel middleware l'a choisie. Suivez le champ proxy effectif tout au long du traitement de cette requête plutôt que de supposer que tous les composants partagent le même vocabulaire d'exclusion.