Yn Scrapy shell bouwe jo it fersyk dat jo de downloader útfiere litte wolle:

from scrapy import Request

fetch(Request(
    "https://www.example.com/",
    meta={"proxy": "http://proxy.example:8080"},
))
response.status

HttpProxyMiddleware lêst de proxywearde út de metadata fan dat Request. It moat ynskakele wêze yn de konfiguraasje fan de aktive downloader-middleware. De fariabele response dêrnei heart by dizze fetch. Foar dizze iepenbiere URL kieze jo in HTTP-adres sûnder autentikaasje út de HTTP-proxylist as iepenbiere tuskenpersoanen tastien binne, en pleatse dan de URL yn de proxy-metadata fan dat fersyk.

It starten fan de shell út it Scrapy-projekt lit it de konfiguraasje fan dat projekt lade. Dat kiest middleware en oare ynstellingen; it kiest sels gjin bepaald proxy-einpunt. De fersykmetadata hjirboppe leveret dy kar direkt.

Foar in proxy mei Basic-ynloggegevens dokumintearret Scrapy brûkersynformaasje yn de proxy-URL. Enkoadearje reservearre tekens yn de akkountkomponinten foardat jo it bouwe. It is net nedich om in Authorization-header fan 'e website foar dat akkount ta te foegjen.

Scrapy kin ek proxy's fine út syn stipe omjouwingsfariabelen. De eksplisite proxy-metadata fan in fersyk hat foarrang. Foar in bewust direkte fersyk skeakelet in proxywearde fan None de omjouwingsbasearre seleksje fan dy middleware foar it fersyk út.

Relatearre artikelen