Hugging Face Hub 1.x: HTTPX-latausvälityspalvelimen määrittäminen

Määritä Hub 1.x:n asiakastehdas tai prosessin ympäristö ennen Transformers-latausta ottaen huomioon erilliset async- ja Xet-polut.

Transformers-asennuksessa, joka käyttää huggingface_hub 1.x:ää, Hubin Python HTTP -siirto on HTTPX. Määritä sen synkroninen asiakastehdas ennen putken tai mallinlataajan käynnistämistä:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Sallituille julkisten mallien latauksille HTTP-välityspalvelinluettelo tarjoaa ehdokkaita tälle HTTP-välityspalvelimen URL:lle. Esimerkki käyttää 1.0.0-rajapintaa. Käytä asiakastyyppiä, jota asennettu Hubin pääversio odottaa; toinen sukupolvi voi käyttää toista HTTP-kirjastoa.

Ympäristöpohjaiseen tunnistukseen aseta sen sijaan HTTP_PROXY ja HTTPS_PROXY ennen Pythonin käynnistämistä. HTTP-kuuntelija voi välittää pyyntöjä HTTPS-kohteisiin.

Synkronisella tehtaalla on määritelty laajuus. Async-asiakkaat käyttävät set_async_client_factoryä, kun taas Xet-siirrot käyttävät erillistä backendia, joka ei käytä tätä Python-tehdasta.

Tunnista epäonnistunut vaihe — Hubin metatiedot, uudelleenohjattu sisältö tai Xet-siirto — ennen kokoonpanon valintaa. Välimuistissa oleva malli voi ohittaa nämä pyynnöt kokonaan.

Aiheeseen liittyvät artikkelit