Hugging Face Hub 1.x: nastavitev proxyja za prenos HTTPX

Pred prenosom s Transformers nastavite tovarno odjemalcev Hub 1.x ali okolje procesa, pri čemer upoštevajte ločene poti async in Xet.

V nastavitvi Transformers s huggingface_hub 1.x je Python HTTP transport Hub-a HTTPX. Pred zagonom pipeline ali nalagalnika modelov nastavite njegovo tovarno sinhronih odjemalcev:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Za dovoljene prenose javnih modelov seznam proxyjev HTTP ponuja kandidate za ta URL proxyja HTTP. Primer uporablja API 1.0.0. Uporabite vrsto odjemalca, ki jo pričakuje nameščena glavna različica Hub-a; druga generacija lahko uporablja drugo knjižnico HTTP.

Za odkrivanje prek okolja pred zagonom Pythona nastavite HTTP_PROXY in HTTPS_PROXY. Poslušalec HTTP lahko prenaša zahteve do ciljev HTTPS.

Sinhrona tovarna ima določen obseg. Async odjemalci uporabljajo set_async_client_factory, medtem ko prenosi Xet uporabljajo ločen backend, ki te Python tovarne ne porablja.

Pred izbiro konfiguracije ugotovite neuspešno stopnjo — metapodatke Hub-a, preusmerjeno vsebino ali prenos Xet. Predpomnjeni model lahko te zahteve popolnoma preskoči.

Sorodni članki