Miks võib ProxyMeshi väljumispäis Scrapys puududa
ProxyMesh võib saata marsruutimise metaandmeid CONNECTi vastuses juba enne, kui Scrapy saab veebisaidi krüpteeritud vastuse. Uurige vastuse etappi, mis neid tegelikult kannab.
X-ProxyMesh-IP puudumine Scrapy HTTPS-tagasinakutses ei tõesta otsest marsruutimist. Tunneliga HTTPS-i puhul paigutab ProxyMesh marsruutimispäised CONNECTi vastusele; hilisem veebisaidi vastus on TLS-i sees ega sisalda neid varasemaid metaandmeid automaatselt.
Kus päis on tagasinakutses nähtav, lugege seda tingimuslikult:
exit_ip = response.headers.get(b'X-ProxyMesh-IP')
if exit_ip is not None:
self.logger.info('Reported exit IP: %s', exit_ip.decode('ascii'))
See on teenusepakkuja teatatud väljund selle tehingu jaoks, mitte konfigureeritud sisenemishostinimi.
Kui tunneli metaandmeid on vaja, kasutage ühilduvat handler-integratsiooni, mis paljastab CONNECTi päised. ProxyMesh haldab ühte just selleks otstarbeks; kontrollige toetatud Scrapy versiooni ja allalaadimishandlerit. Ämbliku parsimine ei saa paljastada päise, mida transport kunagi ei andnud.
Seostage metaandmed nende ühendusega. Tunneli korduskasutamine ei loo iga lehe jaoks uut CONNECTi vastust. Sõltumatu, sihtkoha poolt nähtava lähteaadressi jaoks uurige selle sihtkoha sissetulevat ühendust, selle asemel et käsitleda teenusepakkuja päist universaalse IP-tuvastajana.