Hugging Face Hub 1.x․ HTTPX ներբեռնման վստահված սերվերի կարգավորում

Կարգավորեք Hub 1.x-ի հաճախորդների գործարանը կամ գործընթացի միջավայրը Transformers-ով ներբեռնումից առաջ՝ հաշվի առնելով առանձին async և Xet ուղիները։

huggingface_hub 1.x-ով Transformers-ի կարգավորման մեջ Hub-ի Python HTTP տրանսպորտը HTTPX-ն է։ Կարգավորեք դրա սինխրոն հաճախորդների գործարանը pipeline-ը կամ մոդելի բեռնիչը սկսելուց առաջ․

import httpx
from huggingface_hub import set_client_factory

def make_hub_client():
    return httpx.Client(
        proxy='http://proxy.example:8080',
        follow_redirects=True,
        timeout=30,
    )

set_client_factory(make_hub_client)

Հանրային մոդելների թույլատրված ներբեռնումների համար HTTP վստահված սերվերների ցանկը թեկնածուներ է տրամադրում այս HTTP վստահված սերվերի URL-ի համար։ Օրինակն օգտագործում է 1.0.0 API-ն։ Օգտագործեք այն հաճախորդի տեսակը, որը սպասում է տեղադրված Hub-ի հիմնական տարբերակը․ մեկ այլ սերունդ կարող է օգտագործել այլ HTTP գրադարան։

Միջավայրի վրա հիմնված հայտնաբերման համար Python-ի մեկնարկից առաջ սահմանեք HTTP_PROXY և HTTPS_PROXY։ HTTP լսողը կարող է հարցումները փոխանցել HTTPS նպատակակետերին։

Սինխրոն գործարանն ունի սահմանված շրջանակ։ Async հաճախորդներն օգտագործում են set_async_client_factory, իսկ Xet փոխանցումները՝ առանձին backend, որը չի օգտագործում այս Python գործարանը։

Նախքան կարգավորումն ընտրելը՝ բացահայտեք ձախողված փուլը՝ Hub-ի մետատվյալները, վերահասցեավորված բովանդակությունը կամ Xet փոխանցումը։ Քեշավորված մոդելը կարող է ամբողջությամբ բաց թողնել այդ հարցումները։

Առնչվող հոդվածներ