Hugging Face Hub 1.x: наладзьце проксі для загрузкі HTTPX

Наладзьце фабрыку кліента Hub 1.x або асяроддзе працэсу перад загрузкай Transformers, улічваючы асобныя шляхі async і Xet.

У наладзе Transformers з huggingface_hub 1.x Python-транспартам Hub служыць HTTPX. Наладзьце яго фабрыку сінхроннага кліента перад запускам pipeline або загрузчыка мадэлі:

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Для дазволеных загрузак публічных мадэляў спіс HTTP-проксі дае кандыдатаў для гэтага URL HTTP-проксі. Прыклад выкарыстоўвае API 1.0.0. Выкарыстоўвайце тып кліента, якога чакае ўсталяваная асноўная версія Hub; іншае пакаленне можа выкарыстоўваць іншую HTTP-бібліятэку.

Для выяўлення праз асяроддзе задайце HTTP_PROXY і HTTPS_PROXY перад запускам Python. HTTP-слухач можа перадаваць запыты да адрасоў HTTPS.

Сінхронная фабрыка мае пэўную сферу дзеяння. Асінхронныя кліенты выкарыстоўваюць set_async_client_factory, а перадачы Xet выкарыстоўваюць асобны backend, які не спажывае гэтую фабрыку Python.

Вызначце этап, што не ўдаўся, — метаданыя Hub, перанакіраваны кантэнт або перадачу Xet, — перш чым выбіраць наладу. Кэшаваная мадэль можа цалкам прапусціць гэтыя запыты.

Падобныя артыкулы