Hugging Face Hub 1.x: konfigureer die HTTPX-aflaai-proksi

Konfigureer die Hub 1.x-kliëntfabriek of die prosesomgewing voor 'n Transformers-aflaai, met inagneming van aparte asinkroniese en Xet-roetes.

In 'n Transformers-opstelling met huggingface_hub 1.x is die Hub se Python-HTTP-vervoer HTTPX. Konfigureer sy sinchroniese kliëntfabriek voordat die pyplyn of die modelaaiër begin:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Vir toegelate aflaaie van publieke modelle verskaf die HTTP-proksilys kandidate vir hierdie HTTP-proksi-URL. Die voorbeeld gebruik die 1.0.0-API. Gebruik die kliënttipe wat die geïnstalleerde Hub-hoofweergawe verwag; 'n ander generasie kan 'n ander HTTP-biblioteek gebruik.

Vir ontdekking via die omgewing, stel eerder HTTP_PROXY en HTTPS_PROXY voordat Python begin. 'n HTTP-luisteraar kan versoeke na HTTPS-bestemmings dra.

Die sinchroniese fabriek het 'n bepaalde omvang. Async-kliënte gebruik set_async_client_factory, terwyl Xet-oordragte 'n aparte backend gebruik wat nie hierdie Python-fabriek verbruik nie.

Identifiseer die mislukte stadium—Hub-metaan, herleide inhoud of Xet-oordrag—voordat u die konfigurasie kies. 'n Gekasde model kan daardie versoeke heeltemal oorslaan.

Verwante artikels