Hugging Face Hub 1.x: HTTPX-allalaadimisproksi seadistamine

Seadistage Hub 1.x klienditehas või protsessi keskkond enne Transformersi allalaadimist, arvestades eraldi async- ja Xet-teid.

Transformersi seadistuses, mis kasutab huggingface_hub 1.x-i, on Hubi Pythoni HTTP-transport HTTPX. Seadistage selle sünkroonne klienditehas enne pipeline'i või mudelilaadija käivitamist:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Lubatud avalike mudelite allalaadimisteks pakub HTTP-prokside loend kandidaate selle HTTP-proksi URL-i jaoks. Näide kasutab API-t 1.0.0. Kasutage klienditüüpi, mida paigaldatud Hubi põhiversioon eeldab; teine põlvkond võib kasutada teist HTTP-teeki.

Keskkonnapõhiseks tuvastamiseks määrake enne Pythoni käivitamist HTTP_PROXY ja HTTPS_PROXY. HTTP-kuulaja saab päringud HTTPS-sihtkohtadesse edasi kanda.

Sünkroonsel tehasel on määratletud ulatus. Async-kliendid kasutavad set_async_client_factory't, Xet-ülekanded aga eraldi backend'i, mis seda Pythoni tehast ei kasuta.

Enne konfiguratsiooni valimist tehke kindlaks ebaõnnestunud etapp — Hubi metaandmed, ümbersuunatud sisu või Xet-ülekanne. Vahemällu salvestatud mudel võib need päringud täielikult vahele jätta.

Seotud artiklid