Scrapy ৰ ইমেজ অনুৰোধত প্ৰক্সি সংযুক্ত কৰক
ImagesPipeline-এ সৃষ্টি কৰা Requests-বোৰ সজাই তোলক যাতে অনুৰোধ-যুক্তি পুনৰ নিৰ্মাণ নকৰাকৈ ইমেজ ডাউনলোডে প্ৰক্সি পায়।
from scrapy.pipelines.images import ImagesPipeline
class ProxiedImagesPipeline(ImagesPipeline):
def get_media_requests(self, item, info):
for request in super().get_media_requests(item, info):
request.meta['proxy'] = 'http://proxy.example:8080'
yield request
Scrapy 2.13.3 ৰ বাবে, ITEM_PIPELINES ত থকা মানক ImagesPipeline এণ্ট্ৰীটো এই উপ-শ্ৰেণীৰ import পথেৰে সলনি কৰক। IMAGES_STORE আৰু অন্য ছেটিংছ ৰাখক।
পিতৃ-শ্ৰেণীক কল কৰিলে ইয়াৰ সংৰূপিত ইমেজ-URL ক্ষেত্ৰ আৰু callback-বোৰ সংৰক্ষিত থাকে। উপ-শ্ৰেণীয়ে কেৱল অনুৰোধৰ পথ যোগ কৰে, যিটো সক্ৰিয় HttpProxyMiddleware-এ গ্ৰহণ কৰে। প্ৰতিটো ইমেজ URL ইয়াৰ গন্তব্য হৈ থাকে। প্ৰক্সি প্ৰমাণপত্ৰ নথকা নতুন ৰাজহুৱা-ইমেজ অনুৰোধে, সেই পথ অনুমোদিত হ'লে HTTP প্ৰক্সি তালিকাৰ পৰা এটা এণ্ট্ৰী ব্যৱহাৰ কৰিব পাৰে।
পৃষ্ঠা অনুৰোধে নিজৰ নীতি ৰাখে। গোলকীয় প্ৰক্সি পৰিৱেশ থকিলে, এই সংস্কৰণত meta={'proxy': None} এ নিৰ্বাচিত পৃষ্ঠা অনুৰোধক প্ৰত্যক্ষ কৰি তোলে।
এটা ডাউনলোড সঁচাকৈয়ে ওলাইছে নে নাই পৰীক্ষা কৰক। পাইপলাইন কেশ্ব হিটে এটা নেটৱৰ্ক অনুৰোধ এৰাই যাব পাৰে। নতুন স্থানান্তৰৰ বাবে, সম্পূৰ্ণ-ইমেজ ফলাফল এণ্ট্ৰীবোৰ অনুৰোধিত URL-ৰ সৈতে তুলনা কৰক: সফল কাৰ্য্যসমূহ তাত দেখা যায়, আনহাতে বিফলতাসমূহে মূল ইমেজ-URL ক্ষেত্ৰটো পূৰ্ণ কৰি এৰি দিব পাৰে। হেৰাই যোৱা ফলাফলবোৰ ডাউনলোডাৰ লগ আৰু নিৰ্বাচিত প্ৰক্সিৰ জৰিয়তে অনুসৰণ কৰক।