Hugging Face Hub 1.x: конфигуриране на прокси за изтегляне през HTTPX

Конфигурирайте фабриката за клиенти на Hub 1.x или средата на процеса преди изтегляне с Transformers, като отчитате отделните пътища async и Xet.

В настройка с Transformers и huggingface_hub 1.x Python HTTP транспортът на Hub е HTTPX. Конфигурирайте фабриката за синхронни клиенти преди стартиране на pipeline или зареждащия модел:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

За разрешени изтегляния на публични модели списъкът с HTTP прокси сървъри предоставя кандидати за този HTTP прокси URL. Примерът използва API 1.0.0. Използвайте типа клиент, който очаква инсталираната основна версия на Hub; друго поколение може да използва друга HTTP библиотека.

За откриване чрез средата задайте HTTP_PROXY и HTTPS_PROXY преди стартирането на Python. HTTP слушател може да пренася заявки към HTTPS дестинации.

Синхронната фабрика има определен обхват. Асинхронните клиенти използват set_async_client_factory, а трансферите Xet използват отделен backend, който не използва тази Python фабрика.

Определете неуспешния етап — метаданни на Hub, пренасочено съдържание или трансфер Xet — преди да изберете конфигурацията. Кеширан модел може да пропусне тези заявки напълно.

Подобни статии