Crawlee 3 parar en proxy-URL med ett sessions-ID
Använd Crawlee 3.14:s ProxyConfiguration-sessionsargument för stabil ruttval och ta hänsyn till den ändrade ägarmodellen i v4-migreringsdokumentationen.
I Crawlee 3.14 kan ProxyConfiguration para en sessionsidentifierare med en vald proxy-URL:
import { ProxyConfiguration } from 'crawlee';
const proxies = new ProxyConfiguration({
proxyUrls: [
'http://proxy-a.example:8080',
'http://proxy-b.example:8080',
],
});
const first = await proxies.newUrl('checkout-a');
const sameRoute = await proxies.newUrl('checkout-a');
const anotherSession = await proxies.newUrl('checkout-b');
HTTP-proxylistan tillhandahåller offentliga kandidater för proxyUrls. Upprepade anrop med samma sessions-ID returnerar den parade URL:en. Utan sessions-ID roterar den angivna listan runt. Det väljer en konfigurerad slutpunkt; en uppströmstjänst som roterar utgångar bakom en URL styr fortfarande sitt eget utgångsbeteende.
För sessioner som crawler:n hanterar använder du crawler:ns sessionspool och cookie-lagring. Att sänka maxConcurrency till ett ersätter inte att definiera vilka förfrågningar som hör till samma session.
Att avveckla en session skapar en ny identitetsgräns. Håll dess rutt, cookies och arbetsbelastningsstatus konsekventa i stället för att rotera bara ett fält under en inloggning eller en flerstegsoperation.
Huvudversionen spelar roll. Crawlees v4-migreringsdokumentation tar bort sessionId-argumentet från newUrl och flyttar proxy-parningen till Session-ägande. Exemplet ovan använder medvetet v3-gränssnittet; kopiera inte dess argument till en annan huvudversion utan att anpassa den livscykeln.