Crawlee 3 memasangkan URL proksi dengan ID sesi
Gunakan argumen sesi ProxyConfiguration Crawlee 3.14 untuk pemilihan laluan yang stabil, dan ambil kira model pemilikan yang berubah dalam dokumentasi migrasi v4.
Dalam Crawlee 3.14, ProxyConfiguration boleh memasangkan pengecam sesi dengan URL proksi yang dipilih:
import { ProxyConfiguration } from 'crawlee';
const proxies = new ProxyConfiguration({
proxyUrls: [
'http://proxy-a.example:8080',
'http://proxy-b.example:8080',
],
});
const first = await proxies.newUrl('checkout-a');
const sameRoute = await proxies.newUrl('checkout-a');
const anotherSession = await proxies.newUrl('checkout-b');
Senarai proksi HTTP menyediakan calon awam untuk proxyUrls. Panggilan berulang dengan ID sesi yang sama memulangkan URL yang dipasangkan dengannya. Tanpa ID sesi, senarai yang diberikan berputar bergilir. Ini memilih titik akhir yang dikonfigurasikan; perkhidmatan huluan yang memutarkan jalan keluar di belakang satu URL masih mengawal tingkah laku keluarnya sendiri.
Untuk sesi yang diuruskan oleh crawler, gunakan kolam sesi crawler dan susunan penyimpanan cookie. Menurunkan maxConcurrency kepada satu bukan pengganti untuk menentukan permintaan mana yang tergolong dalam sesi yang sama.
Menghentikan sesi mencipta sempadan identiti baharu. Kekalkan laluan, cookie dan keadaan beban kerjanya konsisten dan bukannya memutarkan satu medan sahaja semasa log masuk atau operasi berbilang langkah.
Versi utama penting. Dokumentasi migrasi Crawlee ke v4 membuang argumen sessionId daripada newUrl dan memindahkan pasangan proksi ke pemilikan Session. Contoh di atas sengaja menggunakan antara muka v3; jangan salin argumennya ke versi utama lain tanpa menyesuaikan kitaran hayat itu.