Hugging Face Hub 1.x: подешавање HTTPX проксија за преузимање

Подесите фабрику клијената Hub 1.x или окружење процеса пре преузимања преко Transformers-а, узимајући у обзир одвојене async и Xet путање.

У подешавању Transformers-а са huggingface_hub 1.x, Python HTTP транспорт Hub-а је HTTPX. Подесите његову фабрику синхроних клијената пре покретања pipeline-а или учитавача модела:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

За дозвољена преузимања јавних модела листа HTTP проксија нуди кандидате за овај HTTP прокси URL. Пример користи API 1.0.0. Користите тип клијента који очекује инсталирана главна верзија Hub-а; друга генерација може користити другу HTTP библиотеку.

За откривање преко окружења поставите HTTP_PROXY и HTTPS_PROXY пре покретања Pythona. HTTP слушалац може преносити захтеве ка HTTPS одредиштима.

Синхрона фабрика има дефинисан обим. Async клијенти користе set_async_client_factory, док Xet преноси користе засебан backend који не троши ову Python фабрику.

Утврдите неуспелу фазу — Hub метаподатке, преусмерени садржај или Xet пренос — пре избора конфигурације. Кеширани модел може потпуно прескочити те захтеве.

Повезани чланци