Hugging Face Hub 1.x: HTTPX ჩამოტვირთვის პროქსის კონფიგურაცია

კონფიგურეთ Hub 1.x-ის კლიენტის ფაბრიკა ან პროცესის გარემო Transformers-ით ჩამოტვირთვამდე, ცალკეული async და Xet ბილიკების გათვალისწინებით.

huggingface_hub 1.x-ის მქონე Transformers-ის კონფიგურაციაში Hub-ის Python HTTP ტრანსპორტი HTTPX-ია. კონფიგურეთ მისი სინქრონული კლიენტის ფაბრიკა pipeline-ის ან მოდელის ჩამტვირთავის დაწყებამდე:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

საჯარო მოდელების ნებადართული ჩამოტვირთვისთვის HTTP პროქსების სია გთავაზობთ კანდიდატებს ამ HTTP პროქსის URL-ისთვის. მაგალითი იყენებს 1.0.0 API-ს. გამოიყენეთ კლიენტის ის ტიპი, რომელსაც დაყენებული Hub-ის მთავარი ვერსია მოელის; სხვა თაობამ შეიძლება სხვა HTTP ბიბლიოთეკა გამოიყენოს.

გარემოზე დაფუძნებული აღმოჩენისთვის Python-ის გაშვებამდე დააყენეთ HTTP_PROXY და HTTPS_PROXY. HTTP მსმენელს შეუძლია მოთხოვნები HTTPS დანიშნულებებამდე მიიტანოს.

სინქრონულ ფაბრიკას განსაზღვრული არეალი აქვს. Async კლიენტები იყენებენ set_async_client_factory-ს, ხოლო Xet გადაცემები — ცალკე backend-ს, რომელიც ამ Python ფაბრიკას არ მოიხმარს.

კონფიგურაციის არჩევამდე დაადგინეთ წარუმატებელი ეტაპი — Hub-ის მეტამონაცემები, გადამისამართებული კონტენტი ან Xet გადაცემა. ქეშირებულმა მოდელმა შეიძლება ეს მოთხოვნები სრულიად გამოტოვოს.

დაკავშირებული სტატიები