Scrapy ৰ HTTP প্ৰক্সি মিডলৱেৰ সৈতে প্ৰতি অনুৰোধৰ বাবে প্ৰক্সি
ক্ৰাউলাৰত পুৰণি কাষ্টম প্ৰমাণীকৰণ মিডলৱে কপি কৰাৰ আগতে Scrapy অনুৰোধৰ মেটাডেটা আৰু ইয়াৰ প্ৰক্সি মিডলৱে ব্যৱহাৰ কৰক।
Scrapy ৰ HTTP প্ৰক্সি মিডলৱে অনুৰোধৰ মেটাডেটাৰ পৰা প্ৰক্সি পঢ়ে:
yield scrapy.Request(
'https://example.com/',
callback=self.parse,
meta={'proxy': 'http://203.0.113.10:8080'},
)
ডকুমেন্টেচনৰ এণ্ডপইণ্ট সলনি কৰক আৰু মিডলৱে সক্ৰিয় ৰাখক। HTTP প্ৰক্সি তালিকা এই অনুৰোধ URL ৰ বাবে ৰাজহুৱা প্ৰাৰ্থী আগবঢ়ায়। ই অনুৰোধৰ পথ নিৰ্বাচন কৰে; প্ৰক্সি পুলৰ বাবে পৃথক নিৰ্বাচন যুক্তি লাগে।
প্ৰমাণীকৰণে নিৰ্বাচিত এণ্ডপইণ্ট অনুসৰণ কৰে
অন্তৰ্নিৰ্মিত মিডলৱে ইয়াৰ সমৰ্থিত প্ৰক্সি URL আৰু সম্পৰ্কিত অনুমোদন হেডাৰৰ জৰিয়তে দিয়া তথ্য পৰিচালনা কৰে। সংৰক্ষিত URL আখৰসমূহ escape কৰক আৰু সেই URL লগ কৰাৰ পৰা বিৰত থাকক।
এণ্ডপইণ্ট সলনি হোৱাৰ পিছত পৃথক মিডলৱে পূৰ্বৰ প্ৰক্সিৰ বাবে Basic হেডাৰ ৰখা উচিত নহয়। এটা স্তৰে পথ আৰু ইয়াৰ তথ্য একেলগে পৰিচালনা কৰক।
নিৰ্বাচনৰ ক্ৰম আৰু ডিফল্ট
যদি কাষ্টম ডাউনলোডাৰ মিডলৱে প্ৰক্সি নিৰ্বাচন কৰে, তেন্তে অন্তৰ্নিৰ্মিত প্ৰক্সি মিডলৱে অনুৰোধ প্ৰক্ৰিয়া কৰাৰ আগতে চলাওক। ইনষ্টল কৰা সংস্কৰণৰ ক্ৰম আৰু API পৰীক্ষা কৰক; অচল scrapy.contrib আমদানি পুৰণি সংস্কৰণৰ।
প্ৰক্ৰিয়া পৰিৱেশে স্কিম-নিৰ্দিষ্ট ডিফল্টও যোগান ধৰিব পাৰে। ইচ্ছাকৃত পোনপটীয়া অনুৰোধৰ বাবে নথিভুক্ত বিশেষ proxy মেটাডেটা ব্যৱহাৰ কৰক: অনুপস্থিত key এ পোনপটীয়া প্ৰৱেশ নুবুজায়।
প্ৰকৃত ফলাফল পৰীক্ষা কৰক। 407 এ প্ৰক্সি প্ৰমাণীকৰণৰ বিষয়ে কয়, আনহাতে ৱেবছাইটৰ হাৰ সীমা বা প্ৰৱেশ অস্বীকৃতি পথ সঠিকভাৱে চলাৰ পিছত আহিব পাৰে।