Hugging Face Hub 1.x: konfiguracja proxy do pobierania HTTPX

Skonfiguruj fabrykę klientów Hub 1.x lub środowisko procesu przed pobraniem przez Transformers, uwzględniając osobne ścieżki async i Xet.

W konfiguracji Transformers z huggingface_hub 1.x transport HTTP Pythona w Hub to HTTPX. Skonfiguruj jego fabrykę klientów synchronicznych przed uruchomieniem pipeline'u lub loadera modelu:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

W przypadku dozwolonych pobrań publicznych modeli lista proxy HTTP dostarcza kandydatów dla tego adresu URL proxy. Przykład korzysta z API 1.0.0. Użyj typu klienta oczekiwanego przez zainstalowaną wersję główną Hub; inne pokolenie może używać innej biblioteki HTTP.

Do wykrywania przez środowisko ustaw HTTP_PROXY i HTTPS_PROXY przed uruchomieniem Pythona. Nasłuch HTTP może przenosić żądania do celów HTTPS.

Fabryka synchroniczna ma określony zakres. Klienci async używają set_async_client_factory, a transfery Xet korzystają z osobnego backendu, który nie zużywa tej fabryki Pythona.

Zidentyfikuj nieudany etap — metadane Hub, przekierowaną treść lub transfer Xet — zanim wybierzesz konfigurację. Model w pamięci podręcznej może całkowicie pominąć te żądania.

Powiązane artykuły