Hugging Face Hub 1.x: HTTPX lejupielādes starpniekservera konfigurēšana

Konfigurējiet Hub 1.x klientu rūpnīcu vai procesa vidi pirms Transformers lejupielādes, ņemot vērā atsevišķos async un Xet ceļus.

Transformers vidē ar huggingface_hub 1.x Hub Python HTTP transports ir HTTPX. Konfigurējiet tā sinhrono klientu rūpnīcu pirms pipeline vai modeļa ielādes uzsākšanas:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Atļautām publisku modeļu lejupielādēm HTTP starpniekserveru saraksts piedāvā kandidātus šim HTTP starpniekservera URL. Piemērā izmantota 1.0.0 API. Izmantojiet klienta tipu, ko gaida instalētā Hub galvenā versija; cita paaudze var izmantot citu HTTP bibliotēku.

Uz vidi balstītai noteikšanai iestatiet HTTP_PROXY un HTTPS_PROXY pirms Python palaišanas. HTTP klausītājs var pārnest pieprasījumus uz HTTPS galamērķiem.

Sinhronajai rūpnīcai ir noteikta darbības joma. Async klienti izmanto set_async_client_factory, bet Xet pārsūtīšana izmanto atsevišķu backend, kas neizmanto šo Python rūpnīcu.

Pirms konfigurācijas izvēles nosakiet neizdevušos posmu — Hub metadatus, novirzīto saturu vai Xet pārsūtīšanu. Kešatmiņā saglabāts modelis var pilnībā izlaist šos pieprasījumus.

Saistītie raksti