Hugging Face Hub 1.x: конфигурирање на HTTPX прокси за преземање

Конфигурирајте ја фабриката за клиенти на Hub 1.x или околината на процесот пред преземање со Transformers, земајќи ги предвид одделните async и Xet патеки.

Во поставка на Transformers со huggingface_hub 1.x, Python HTTP транспортот на Hub е HTTPX. Конфигурирајте ја неговата фабрика за синхрони клиенти пред да го стартувате pipeline или вчитувачот на модели:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

За дозволени преземања на јавни модели, списокот со HTTP прокси нуди кандидати за овој HTTP прокси URL. Примерот го користи API 1.0.0. Користете го типот на клиент што го очекува инсталираната главна верзија на Hub; друга генерација може да користи друга HTTP библиотека.

За откривање преку околината, поставете HTTP_PROXY и HTTPS_PROXY пред да го стартувате Python. HTTP слушач може да пренесува барања до HTTPS одредишта.

Синхроната фабрика има определен опсег. Async клиентите користат set_async_client_factory, а Xet преносите користат одделен backend што не ја троши оваа Python фабрика.

Утврдете ја неуспешната фаза — метаподатоци на Hub, пренасочена содржина или Xet пренос — пред да ја изберете конфигурацијата. Кеширан модел може целосно да ги прескокне тие барања.

Поврзани статии