Hugging Face Hub 1.x: nastavenie proxy na sťahovanie HTTPX

Pred sťahovaním cez Transformers nastavte továreň klientov Hub 1.x alebo prostredie procesu, s ohľadom na oddelené cesty async a Xet.

V nastavení Transformers s huggingface_hub 1.x je Python HTTP transport Hubu HTTPX. Pred spustením pipeline alebo načítavača modelu nakonfigurujte jeho továreň synchronných klientov:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Pre povolené sťahovania verejných modelov poskytuje zoznam HTTP proxy kandidátov pre túto URL HTTP proxy. Príklad používa API 1.0.0. Použite typ klienta, ktorý očakáva nainštalovaná hlavná verzia Hubu; iná generácia môže používať inú HTTP knižnicu.

Na zisťovanie z prostredia nastavte HTTP_PROXY a HTTPS_PROXY pred spustením Pythonu. HTTP listener môže prenášať požiadavky na ciele HTTPS.

Synchronná továreň má vymedzený rozsah. Async klienti používajú set_async_client_factory, zatiaľ čo prenosy Xet používajú samostatný backend, ktorý túto Python továreň nespotrebúva.

Pred voľbou konfigurácie určite zlyhanú fázu – metadáta Hubu, presmerovaný obsah alebo prenos Xet. Model v medzipamäti môže tieto požiadavky úplne preskočiť.

Súvisiace články