Hugging Face Hub 1.x: HTTPX atsisiuntimo proxy konfigūravimas

Sukonfigūruokite Hub 1.x klientų gamyklą arba proceso aplinką prieš Transformers atsisiuntimą, atsižvelgdami į atskirus async ir Xet kelius.

Transformers aplinkoje su huggingface_hub 1.x Hub Python HTTP transportas yra HTTPX. Sukonfigūruokite jo sinchroninę klientų gamyklą prieš paleisdami pipeline ar modelio įkroviklį:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Leidžiamiems viešų modelių atsisiuntimams HTTP proxy sąrašas siūlo kandidatus šiam HTTP proxy URL. Pavyzdyje naudojama 1.0.0 API. Naudokite kliento tipą, kurio tikisi įdiegta pagrindinė Hub versija; kita karta gali naudoti kitą HTTP biblioteką.

Aplinkos pagrindu veikiančiam aptikimui nustatykite HTTP_PROXY ir HTTPS_PROXY prieš paleisdami Python. HTTP klausytojas gali perduoti užklausas HTTPS tikslams.

Sinchroninė gamykla turi apibrėžtą taikymo sritį. Async klientai naudoja set_async_client_factory, o Xet perdavimai naudoja atskirą backend, kuris nenaudoja šios Python gamyklos.

Prieš pasirinkdami konfigūraciją nustatykite nepavykusį etapą — Hub metaduomenis, peradresuotą turinį arba Xet perdavimą. Talpykloje esantis modelis gali visiškai praleisti šias užklausas.

Susiję straipsniai